A Llama (a Large Language Model Meta AI rövidítése, korábban LLaMA) a Meta AI által 2023 februárjában kiadott nagy nyelvi modell (LLM) család.
Ez egy szabadon felhasználható AI modell, amivel akár otthon is kísérletezhetünk.
Ezt írják róla:
„The open source AI model you can fine-tune, distill and deploy anywhere.”
Azaz:
„A nyílt forráskódú mesterséges intelligenciamodell, amelyet bárhol finomhangolhat, finomíthat és telepíthet.”
A legfejlettebb (és legnagyobb) modell verziója ezen írás megjelenésének időpontjában a 3.1 – 405B. 2024 július 23.-ikán adták ki.
A támogatott nyelvek: Angol, Német, Francia Olasz, Portugál, Hindi, Spanyol és Thai.
Az írják, hogy ez egy statikus modell, amelyet egy offline adathalmazon képeztek ki. A hangolt modellek jövőbeli verzióit a közösség visszajelzései alapján a modell biztonságának javításával adják ki.
Érdekes látni (és szörnyűlködni), hogy mennyi energiát és erőforrást használtak a modellek képzésére:
A Llama 3.1 kereskedelmi és kutatási célú felhasználásra készült, több nyelven. Az utasításhoz hangolt, csak szöveges modelleket az asszisztens-szerű csevegéshez szánják, míg az előzetesen betanított modellek számos természetes nyelvi generálási feladathoz igazíthatók. A Llama 3.1 modellgyűjtemény azt is támogatja, hogy a modelljeinek kimenetei felhasználhatók legyenek más modellek tökéletesítéséhez, beleértve a szintetikus adatok generálását és desztillálását. A Llama 3.1 közösségi licenc lehetővé teszi ezeket a felhasználási eseteket.
A Llama 3.1-et a 8 támogatott nyelvnél szélesebb nyelvgyűjteményen képezték ki. A fejlesztők finomhangolhatják a Llama 3.1 modelleket a 8 támogatott nyelven kívüli nyelvekre is, feltéve, hogy betartják a Llama 3.1 közösségi licencet és az elfogadási szabályzatot, és ilyen esetekben felelősek azért, hogy a Llama 3.1 további nyelveken történő felhasználása biztonságos és felelős módon történjen.
Lehetséges felhasználási területei (csak pár példa):
- chatbot
- struktúrált adatok szakértője
- RAG chatbot
- videó összefoglaló
A modell felhasználási feltételei itt találhatók: https://github.com/meta-llama/llama-models/blob/main/models/llama3_1/LICENSE
Technikai(bb) leírás itt van: https://github.com/meta-llama/llama-models/blob/main/models/llama3_1/MODEL_CARD.md
Amennyiben szeretne a témában tanulni, megoldásra van szüksége, üzemeltetési problémája van vagy egyedi informatikai témában segítségre van szüksége (akár egy RAG rendszer kialakítása érdekli), keressen fel.
Képek: