Yrityksen sisäinen RAG-assistentti (Slack)
Tuotantoon viety RAG-chatbot Slackissa — monilähdehaku, AWS Bedrock ja palveluttomat komponentit.
Konteksti ja ongelma
Suurella mediayhtiöllä oli tarve yhdistää hajallaan olevaa sisäistä tietoa yhteen käyttöliittymään. Työntekijät etsivät vastauksia useasta lähteestä; haku intraviidakon erilaisista lähteistä hidasti arkea. Tavoitteena oli Slackissä käytettävä assistentti, joka hakee tiedon dokumenteista ja vastaa käyttäjien esittämiin kysymyksiin dokumenttien perusteella.
Mitä tehtiin
Suunnittelin ja toteutin AWS-pohjaisen RAG-ratkaisun: tietokantana ja dokumentti-indeksinä oli AWS Bedrock Knowledge Base, hakulogiikka, kielimallien käyttö ja vastaaminen paketoitiin Lambda-palveluina ja järjestelmä integroitiin Slackiin. Infrastruktuuri mallinnettiin koodina (AWS CDK).
Vastasin erityisesti tiedonhausta ja AI-toiminnallisuudesta — lähteiden rajauksesta, indeksoinnista ja promptauksesta sekä Slack -toiminnoista (käyttäjäpalaute ja analyysi). Ratkaisu yhdisti useita sisäisiä tietolähteitä yhdeksi haettavaksi kokonaisuudeksi sen sijaan, että käyttäjä harhailisi intrassa etsimässä tarvitsemaansa tietoa.
Keskeisiä teknologioita: Python, AWS Lambda, Bedrock knowledge bases, RAG, LLM:t, IaC (CDK).
Tulos
Assistentti otettiin käyttöön Slackissa ja tuki päivittäistä tiedonhakua. Ratkaisu osoitti, että yrityksen sisäinen monilähde-RAG voidaan ottaa käyttöön hallitulla infrastruktuurilla ja integroida olemassa olevaan viestintäkanavaan ilman erillistä portaalia.
Kuva: Handcraft Vintage Wooden Table — Markus Spiske, CC0 1.0.