Hogyan jutottunk el az LLM-ekig

Manapság mindenki a mesterséges intelligenciáról beszél, mintha tegnap találták volna fel a spanyolviaszt. Viszont ez a történet sokkal régebbre nyúlik vissza, mint a legújabb okostelefonotok. De mégis hogyan jutottunk ide?

Az “őskor” (20. század eleje-közepe): Amikor az álmok születtek

Az 1940-es években Alan Turing, egy brit matekzseni, az elsők között volt aki azt próbálta megfejteni, hogy egy gép vajon képes-e az eredeti programozásán túllépve “gondolkodni”¹². Ő dobta be a “Turing-teszt” ötletét is 1950-ben, amivel azt lehetne lemérni, hogy egy gép emberszerűen intelligens-e³⁴.

Aztán jöttek Warren McCulloch és Walter Pitts 1943-ban, akik papíron megalkották az első mesterséges neuronok modelljét – ez volt a neurális hálózatok őse³². Donald Hebb 1949-ben pedig a “Hebbi tanulás” elméletével rukkolt elő, ami arról szól, hogy az együtt aktiválódó neuronok közötti kapcsolat erősödik – ez az alapja a felügyelet nélküli (unsupervised learning) tanulásnak a neurális hálózatokban³.

Az igazi startpisztoly 1956-ban dördült el a Dartmouth Főiskolán, ahol egy John McCarthy nevű matematikaprofesszor összehívott egy nyári műhelyt gondolkodó gépek témában¹². Ők voltak azok, akik először használták a “mesterséges intelligencia” kifejezést (amit McCarthy 1955-ben alkotott meg), és ezzel gyakorlatilag megalapították a tudományterületet¹⁴. Persze ekkor még a számítási kapacitás és a pénz is szűkös volt, így a haladás lassú volt⁴.

Voltak már kezdetleges sakkprogramok (Claude Shannon, 1950; Arthur Samuel, 1956), sőt, Isaac Asimov 1950-ben kiadta az “Én, a robot” című művét, ami az MI etikai dilemmáit feszegette⁴. Megszületett a Lisp programozási nyelv is (John McCarthy, 1958), ami sokáig az MI kutatás kedvence volt⁴. Az első MI programot, a Logic Theorist-ot Allen Newell, Herbert Simon és Cliff Shaw készítette 1955-ben⁴.

A “középkor” és az “MI tél” (1960-as – 1970-es évek): Amikor alábbhagyott a lelkesedés

A ‘60-as években bejöttek a képbe a Bayes-módszerek a valószínűségi következtetésekhez a gépi tanulásban⁵. De aztán a ‘70-es években beköszöntött az úgynevezett “MI tél” (AI winter): a kezdeti lelkesedés után sokan pesszimisták lettek az MI képességeit illetően, és a kutatási pénzek is megcsappantak⁵. Arthur Samuel egyébként már 1959-ben (más források szerint 1969-ben⁴) megalkotta a “gépi tanulás” kifejezést, ami később kulcsfontosságúvá vált⁴. De ekkor még úgy tűnt, az MI inkább csak egy drága játékszer.

A reneszánsz (1980-as – 2000-es évek): Újraéledő remények

Aztán a ‘80-as években jött a feltámadás! Újra felfedezték a “backpropagation” (visszaterjesztés) algoritmust, ami forradalmasította a neurális hálózatok tanítását⁵⁶. Ezek a hálózatok, amiket az emberi agy mintájára képzeltek el, hirtelen sokkal okosabbak lettek, mert képesek lettek a visszajelzések alapján tanulni és bonyolult mintázatokat felismerni⁶.

A ‘90-es években a fókusz a tudásalapú megközelítésről az adatvezérelt megközelítésre tolódott⁵. A tudósok olyan programokat kezdtek írni, amelyek nagy mennyiségű adatot elemezve képesek voltak következtetéseket levonni, vagyis “tanulni”⁵. Népszerűvé váltak a támogatóvektor-gépek (SVM) és a rekurrens neurális hálózatok (RNN)⁵⁶. Az igazi áttörést és a közvélemény figyelmét IBM Deep Blue nevű számítógépe hozta el 1997-ben, amikor legyőzte Garry Kasparovot, az akkori sakkvilágbajnokot⁶. Ez megmutatta, hogy az MI képes stratégiai és kognitív kihívásokkal is megbirkózni. A 2000-es években pedig tovább finomodtak a módszerek, például a kernel-trükkök és a felügyelet nélküli tanulási algoritmusok terén, mint a Support-Vector Clustering⁵.

A modern bumm (2010-es évektől napjainkig): Mi tette lehetővé a mai technológiát?

És elérkeztünk napjaink MI-robbanásához! De mi kellett ahhoz, hogy a laborok mélyén szunnyadó ötletekből hirtelen ilyen látványos eredmények szülessenek? Több dolog szerencsés együttállása:

• A Deep Learning (Mélytanulás) Felemelkedése: A 2010-es évektől a mélytanulás – ami lényegében sokrétegű neurális hálózatokat jelent – elérhetővé és hatékonnyá vált⁵. Ez óriási ugrást hozott a képfelismerésben, a hangfelismerésben és a természetes nyelvfeldolgozásban⁵⁶.
• Big Data – Az Adatözön: Hirtelen elképesztő mennyiségű adat vált elérhetővé az internetnek, a közösségi médiának és a digitalizációnak köszönhetően. Ezek az adathalmazok pedig nélkülözhetetlenek a komplex MI modellek tanításához⁵⁶. Gondolj bele, egy modellt annál jobban meg lehet tanítani, minél több példát lát!
• Brutális Számítási Kapacitás: A grafikus processzorok (GPU-k), amiket eredetileg videojátékokhoz fejlesztettek, kiderült, hogy kiválóan alkalmasak a párhuzamos számításokra, amiket az MI modellek igényelnek. Cégek, mint az Nvidia, kulcsszereplővé váltak ebben⁷.
• Jobb Algoritmusok és Architektúrák: Folyamatosan fejlesztették a tanulási algoritmusokat és új neurális hálózati architektúrákat (mint például a transzformerek, amik a mai nagy nyelvi modellek alapját képezik) találtak ki.
• Befektetések és Nyílt Forráskód: Egyre több pénz áramlott az MI kutatásba, és egyre több eszköz, modell vált nyílt forráskódúvá, ami felgyorsította a fejlődést és az együttműködést⁸.

A jelenkor: Generatív MI és a kulcsszereplők

Ma a generatív MI korában élünk! A 2020-as évek hozták el a forradalmi modelleket, mint a ChatGPT (szövegalkotás) vagy a Stable Diffusion (képalkotás), amik már nem csak elemzik az adatot, hanem újat is alkotnak⁵. Az MI belépett a hétköznapi köztudatba, és a cégek is óriási üzleti potenciált látnak benne⁵.

De kik azok, akik ezt az egészet lehetővé tették és ma is formálják?

• OpenAI: Kezdetben Elon Musk nevével is fémjelzett cég, ami a GPT nyelvi modellekkel (pl. a ChatGPT mögött álló GPT-4) és a DALL-E képalkotóval vált híressé⁹. Céljuk a mesterséges általános intelligencia (AGI) elérése, és szoros partnerségben állnak a Microsofttal⁸. A világ legértéseksebb privát vállalata (2025 februárjában közel 300 milliárd dollárra becsülték!) ⁸.
• Google (Alphabet) / DeepMind: A Google anyacége, az Alphabet sem tétlenkedik. A Gemini model széria leneleg a legjobb a piacon (State of the Art - SOTA), de ne feledkezzünk meg a DeepMindról sem (amit a Google felvásárolt), akik az AlphaGo programmal 2017-ben legyőzték a Go világbajnokot, Ke Jie-t⁷⁹. Emellett ott van a Waymo önvezető autó projektjük is. Milliárdokat ölnek az MI-be, 2025-re például 75 milliárd dollárt különítettek el tőkekiadásokra⁷⁸.
• Microsoft: Óriási összegeket fektetnek MI-képes adatközpontokba (kb. 80 milliárd dollárt), és az OpenAI modelljeit integrálják termékeikbe, mint a Bing kereső vagy a Microsoft 365⁷.
• Meta (F.A.I.R.): A Facebook anyacégének kutatólaborja (Facebook Artificial Intelligence Research), ahol olyan nevek dolgoznak, mint Yann LeCun, akit a mélytanulás egyik atyjaként tartanak számon⁹. DINO algoritmusuk például képes önállóan kiemelni karaktereket videókból⁹.
• Nvidia: Bár nem közvetlenül MI modelleket fejlesztenek, a hardveres háttér, a GPU-k nélkülözhetetlenek a mai MI működéséhez⁷. Nélkülük nem lenne “nafta” a motorban.
• Anthropic: A Claude modellekről (pl. Claude 3.5 Sonnet) ismertek, és nagy hangsúlyt fektetnek a felelős és megbízható MI rendszerek építésére⁷.
• DeepSeek: Egy 2023-ban alapított, kínai versenyző, aki gyorsan figyelmet keltett hatékony nagy nyelvi modelljeivel (pl. R1 modell) és nyílt forráskódú megközelítésével⁷⁸. Még az Nvidia részvényeit is meg tudták ingatni a hatékonyságukkal⁸. Képzeld el ezt a mémet: DeepSeek vs OpenAI – ahol DeepSeek egy kis csapattal ugyanazt éri el, mint OpenAI hatalmas erőforrásokkal ¹⁰.

Konklúzió: Mi jön ezután?

Szóval, a mesterséges intelligencia útja tele volt hullámvölgyekkel, nagy álmokkal, “téli álmokkal” és elképesztő feltámadásokkal. Ma már ott tartunk, hogy az MI képes verset írni, képet festeni, vagy akár komplex tudományos problémákat megoldani¹⁰. Hogy mit hoz a jövő? Erről majd a későbbiekben.

Hivatkozások

Footnotes

1. https://www.coursera.org/articles/history-of-ai ↩ ↩² ↩³

2. https://www.linkedin.com/pulse/brief-history-ai-ml-dan-franklin ↩ ↩² ↩³

3. https://www.devopsschool.com/blog/evolution-and-timeline-machine-learning/ ↩ ↩² ↩³

4. https://www.telefonica.com/en/communication-room/blog/rise-ai-technology-present/ ↩ ↩² ↩³ ↩⁴ ↩⁵ ↩⁶ ↩⁷ ↩⁸

5. https://en.wikipedia.org/wiki/Timeline_of_machine_learning ↩ ↩² ↩³ ↩⁴ ↩⁵ ↩⁶ ↩⁷ ↩⁸ ↩⁹ ↩¹⁰ ↩¹¹ ↩¹²

6. https://groovetechnology.com/blog/history-of-artificial-intelligence/ ↩ ↩² ↩³ ↩⁴ ↩⁵ ↩⁶

7. https://aimagazine.com/top10/top-10-ai-companies-to-watch ↩ ↩² ↩³ ↩⁴ ↩⁵ ↩⁶ ↩⁷

8. https://iot-analytics.com/leading-generative-ai-companies/ ↩ ↩² ↩³ ↩⁴ ↩⁵ ↩⁶

9. https://inside-machinelearning.com/en/3-ai-pioneer-companies-and-their-powerful-innovations/ ↩ ↩² ↩³ ↩⁴

10. https://www.webopedia.com/technology/ai-memes/ ↩ ↩²