Bu çalışmada Google AI tarafından geliştirilen yapay zekâ Gemini API'ı ve Langchain SQL framework'ü kullanılarak bir SQL asistanı projesi geliştirilmiştir.
Projede .env dosyasında içeriğinde şu veriler bulunmaktadır.
• GEMINI_API_KEY
• LANGCHAIN_API_KEY
• LANGCHAIN_TRACING_V2=true
• LANGCHAIN_PROJECT=PROJECT_NAME
• DB_USER
• DB_PASSWORD
• DB_HOST
• DB_PORT
• DB_NAME
Projede, Gemini AI ile birlikte Langchain SQL framework'ü kullanılmıştır. Langchain, büyük dil modelleri ile uygulama geliştirilmesinde kullanılmaktadır. Zincir yapısında LLM'lerin birbirleri ile ve insanlar ile konuşmasını sağlamaktadır. Doküman okuma-yükleme, chat geçmişi tutma, embedding işlemleri ve vektör database işlemleri için langchain framework'ünden faydalanılmıştır. LangChain, LLM'ler ile entegrasyon sağlayarak özelleştirilmiş sorgu yönetimi sunmaktadır. Langchain'in sağladığı Langchain SQL hizmeti ise kullanılan veri tabanı ile bağlantı sağlanmasını ve SQL sorgularının veri tabanında çalıştırılmasını sağlamaktadır.
Bu çalışmada veri tabanı olarak PostgreSQL kullanılmıştır. SQLDatabase ile veri tabanı bağlantılı sağlanmıştır. Bağlantı için gerekli bilgiler .env dosyasında yer almaktadır. Buradaki bilgiler ile veri tabanı bağlantısı sağlandıktan sonra SQL sorguları veri tabanında çalışır hale gelmiştir.
Çalışmada kurulan algoritmanın genel yapısı Şekil 1'de görülmektedir.
Şekil 1'de görüldüğü üzere kullanıcıdan alınan input ilk olarak bir sql sorgusu istiyor mu yoksa sadece LLM ile cevap verilebilir mi kontrol edilmektedir. Veri tabanındaki tablo ile ilgili bilgiler içeren ve SQL üzerinden bilgi verilebilecek sorular SQL chain yapısına yönlendirilmektedir. Burada SQL query hazırlaması için oluşturulan prompt ile soruya uygun bir SQL query oluşturulmaktadır. Oluşturulan query veri tabanında çalıştırılarak bir sonuç elde edilmektedir. Burada elde edilen sonuç LLM ile birleştirilerek kullanıcıya açıklayıcı bir biçimde sunulmaktadır.
Eğer SQL ile cevaplanacak bir soru sorulmamış ise bu sefer kod direkt LLM üzerinden cevap vermektedir.
Bu yapının sağlaması için 3 adet prompt ve chain yapısı tanımlanmıştır. Bunlar sırasıyla SQL sorguları üretilmesi için, SQL sonucunu LLM ile açıklamak için ve soruyu doğrudan LLM ile yanıtlamak içindir. Şekil 1'de bu bahsedilen adımlar detaylı olarak gösterilmektedir.
Çalışmada chat history tutularak asistan ile daha tutarlı ve kolay iletişim sağlanmıştır.
Bunlara ek olarak kullanım kolaylığı ve görsellik katmak için streamlit ile bir arayüz tasarlanmıştır. Tasarlanan arayüz çıktıları ve terminal çıktıları örnekleri aşağıda yer almaktadır.
