Implementasi Sistem Tanya Jawab (Question Answering) Berbasis RAG (Retrieval-Augmented Generation) untuk Otomasi Layanan Informasi di Perusahaan IT dan Penyedia Pelatihan

Abstract

Di era digital saat ini, kebutuhan terhadap layanan informasi yang cepat dan mudah diakses menjadi salah satu faktor penting dalam meningkatkan kualitas pelayanan perusahaan. PT Rawit Solusi Utama menghadapi kendala dalam penyampaian informasi terkait layanan perusahaan karena informasi masih tersebar pada berbagai sumber dan proses pencarian informasi membutuhkan waktu. Proyek akhir ini bertujuan untuk mengimplementasikan sistem Question Answering berbasis Retrieval-Augmented Generation (RAG) yang dapat membantu mengotomatisasi layanan informasi perusahaan. Sistem dikembangkan menggunakan LangChain sebagai framework orkestrasi, Ollama sebagai penyedia Large Language Model (LLM), Llama 3 sebagai model bahasa, serta ChromaDB sebagai vector database. Data dari dokumen dan sumber informasi perusahaan diproses melalui tahapan pemecahan dokumen menjadi beberapa bagian (chunking), embedding, dan penyimpanan ke dalam vector database. Ketika pengguna memberikan pertanyaan, sistem melakukan retrieval untuk menemukan informasi yang paling relevan dari knowledge base, kemudian informasi tersebut digunakan sebagai konteks bagi LLM untuk menghasilkan jawaban. Pengembangan sistem menggunakan metode Waterfall yang meliputi tahap analisis kebutuhan, perancangan, implementasi, pengujian, dan pemeliharaan. Pengujian dilakukan menggunakan pendekatan black-box melalui User Acceptance Testing (UAT) untuk memastikan fungsi utama sistem berjalan sesuai kebutuhan pengguna. Hasil implementasi menunjukkan bahwa sistem dapat membantu pengguna memperoleh informasi perusahaan melalui antarmuka chatbot dengan memanfaatkan data yang tersedia pada knowledge base. Penerapan RAG juga memungkinkan jawaban chatbot lebih terarah karena proses generasi jawaban menggunakan konteks hasil pencarian dari knowledge base perusahaan.