Az AI (Artificial Intelligence, mesterséges intelligencia) és az LLM (Large Language Model, nagy nyelvi modell) technológiák hatalmas potenciállal bírnak, de csak akkor érdemes használnunk őket, ha a biztonságot maximálisan szem előtt tartjuk. Az ilyen rendszerek gyakran személyes vagy céges, érzékeny adatokat kezelnek, így elengedhetetlen a megfelelő adatvédelmi intézkedések betartása. Ugyanakkor nagyon nagy segítség lehet egy saját „belső” mesterséges intelligencia, amit a dolgozók bármikor megkérdezhetnek.
Egy példa: Okosotthon Kft.
Például egy okosotthonok kialakításával foglalkozó vállalkozás rengeteg eszköznek a telepítési/karbantartási útmutatójával, technikai leírásával rendelkezik. Ezekben a dokumentumokban valószínűleg már most is könnyen tud keresni az adott eszközt telepítő szakember, gyorsan utána tud nézni kérdéses dolgoknak akár a helyszínen is. Viszont ezt a keresést nagymértékben meg lehet könnyíteni egy belső, céges chatbottal, ami a szóban vagy írásban feltett kérdésekre megfelelő szakértői hivatkozásokkal rendelkező válaszokat ad. Sőt, továbbgondolva ez a chatbot akár egy új kolléga betanulásánál is nagy segítség lehet. Természetesen egy LLM – és a generatív mesterséges intelligencia általánosan – sosem lesz szakértő, mindig benne van a válaszában a hiba lehetősége. Egy megfelelő RAG (itt egy jó angol nyelvű leírás) kialakításával a rendszer hatékonysága elérheti viszont azt a szintet, ami már mérhető mértékben segíti a szakemberek munkáját vagy a betanulást.
Hasonló a megoldás, mint azt a Notion cikkben írtam, annyi a fő különbség, hogy ez a vállalkozás saját – virtuális vagy „rendes” – szerverén fut, onnan elvileg semmilyen adat nem kerülhet ki.
Okosotthon Belső és Gépi AdatTár (OBÉGAT) tervezése
Tervezzünk meg elméletben egy rendszert, mikre is lesz szüksége a fenti vállalkozásnak. A találó rövidítéssel már le is írtuk, mi a célunk: adattárolás védett módon, valamilyen gépi támogatással mwgtámogatva, bárhonnan (böngészővel) elérhető módon. Lássuk, milyen rendszerelemekre és lépésekre lesz szükségünk..
Felhasználói felület / interfész
Ha a ChatGPT ismerős, akkor nem is kell bemutatni a felületet. Egy úgynevezett „prompt” (angol leírás a linken) segítségével szövegesen vagy szóban bevitt kérdésekre, utasításokra fog a modellünk reagálni. Könnyen kezelhető, akár egy mobiltelefon segítségével is hozzáférhetünk – a megfelelő hozzáférések beállítása után természetesen..
Modell/ek finomhangolása
Mit is mond maga a ChatGPT: „A nyelvi modellek finomhangolása (fine-tuning) egy kritikus lépés a gépi tanulás folyamatában, amely lehetővé teszi, hogy az alapmodell specifikus feladatokra specializálódjon. Ez a folyamat magában foglalja a már előzetesen betanított nagy nyelvi modell (LLM) további tanítását egy kisebb, célzott adatbázison, amely releváns az adott alkalmazási területhez. Például egy általános nyelvi modellt finomhangolhatnak orvosi szövegek elemzésére vagy jogi dokumentumok feldolgozására. A finomhangolás során az eredeti modell paramétereit úgy módosítják, hogy a modell jobban teljesítsen a speciális feladatokban, miközben megőrzi az előzetes tanulás során megszerzett általános nyelvi képességeit. Ennek eredményeként a finomhangolt modellek nagy pontossággal és hatékonysággal képesek kezelni az adott területen felmerülő kihívásokat, hozzájárulva az automatizált szövegfeldolgozás fejlődéséhez és a különböző iparágakban alkalmazható intelligens rendszerek fejlesztéséhez.„
Azaz a feladathoz szabjuk az eszközt, a várható kérdésekhez tanul a modell. Itt a legegyszerűbb megoldások egyike egy ún. RAG rendszer felépítése. Modellből van sokféle, szabadon felhasználható és licenszes, kevésbé „okos” és jobban „képzett”. A feladattól függ az is, mennyire általános/specializált módon akarjuk a válaszainkat megkapni.
Felhasználók kezelése
Meg kell határoznunk, ki, milyen felületen férhet hozzá a tudásbázisunkhoz. Ennek több módja is lehet, akár eszközre szabottan, helyhez kötötten, felhasználó szinten szabályozható. Ez a feladat tulajdonképpen egy tipikus üzemeltetési feladat.
Dokumentumok kezelése
Kiválasztjuk, milyen dokumentumokkal akarjuk „feltanítani” a már előre tanított modellünket. A tudás forrásánál fontos, hogy olyan adatot vigyünk be ami tényleges információt hordoz és valóban segíteni fog majd a „találati listánkban”. Fontos, hogy a jövőben keletkező információkat is be tudjuk vinni, akár automatizáltan.
Egyéb funkciók integrációja
A rendszer elérhető lehet optimális esetben már API hívásokon keresztül is. Ez azt jelenti hétköznapi nyelven, hogy más rendszerekkel is összeköthetjük, automatizmusokba is beépíthetjük, tud a rendszer más rendszerekkel kommunikálni. Egy tipikus használatnál keletkező ötlet: az okosotthon egyik eszköze hiba esetén csatlakozzon rá a rendszerünkre és a hibaüzenet helyett a probléma lehetséges megoldását (is) mutassa (javasoljon megoldást) az Okosotthon Kft. ügyfelének. A lehetőségek itt határtalanok.
Összefoglalás
Amennyiben szeretne a témában tanulni, megoldásra van szüksége, üzemeltetési problémája van vagy egyedi informatikai témában segítségre van szüksége (akár egy ilyen rendszer kialakítása érdekli), keressen fel.
Képek:
Steve Johnson / Unsplash
Kelly Sikkema / Unsplash
Possessed Photography / Unsplash
Rob Hampson / Unsplash
Viktor Talashuk / Unsplash
AltumCode / Unsplash