Un studiu recent dezvăluie limitele tehnologice ale inteligenței artificiale moderne, potențialul de a schimba fundamental modul în care percepem capacitățile agenților AI și promisiunea industriei de a crea asistenți autonomi complet fiabili. Deși discursul public și campaniile de marketing ale marilor firme din domeniu continuă să avanseze ideea unor mașini inteligente capabile să funcționeze independent în medii critice, realitatea tehnologică pare să fie diferită. Cercetarea semnalează că modelele lingvistice de amploare, așa-numitele „large language models” (LLM), au limitări matematice fundamentale ce îi împiedică să atingă nivelul de autonomie și fiabilitate pretins.
### Limitările arhitecturii și realitatea matematică
Autorii studiului, Vishal Sikka, fost director tehnologic al SAP, și fiul său, Varin Sikka, argumentează că aceste modele, bazate pe predicția probabilităților următoarei secvențe de text, nu pot înțelege în mod real contextul sau corectitudinea logică a deciziilor pe care le iau. Astfel, chiar dacă au acces la volume uriașe de date și de putere de calcul, limitele fundamentale ale arhitecturii acuză o lipsă de fiabilitate în aplicații unde o greșeală poate avea consecințe grave.
„Din această cauză, modelele AI nu pot atinge niciodată un nivel de fiabilitate care să le permită să funcționeze independent în domenii critice,” afirmă Sikka. În plus, cercetările din interiorul industriei confirmă problemele cu halucinațiile AI — situațiile în care modele inventează informații cu certitudine — și recunoașterea faptului că acuratețea absolută nu va putea fi niciodată atinsă. În contextul în care agenții AI sunt promovați ca soluții autonome, aceste dezvăluiri pot schimba radical percepția despre viitorul real al tehnologiei.
### Promisiuni și dezamăgiri în lumea comercială a AI-ului
Industria de tehnologie a investit masiv în proiecte de automatizare bazate pe AI, preconizând că agenții inteligenți vor revoluționa modul în care companiile operează, reducând semnificativ costurile și eliminând nevoia prezenței umane în procesări complexe. Totuși, rezultatele au fost adesea dezamăgitoare, cu numeroase proiecte care nu au reușit să își atingă scopurile, ba chiar au generat erori frecvente și probleme de siguranță.
„Halucinațiile” AI, lipsa de coerență și incapacitatea de a gestiona situații neprevăzute au făcut ca, în cele din urmă, înlocuirea completă a angajaților umani să rămână, cel puțin pentru moment, un obiectiv nerealist. Deși liderii din domeniu încearcă să argumenteze că aceste limitări pot fi depășite prin reguli suplimentare și sisteme de control extern, cercetările arată că aceste soluții, deși utile, nu schimbă fundamental natura limitată a tehnologiei.
Chiar dacă unele componente software pot aduce mici îmbunătățiri, autorii studiului subliniază că un model lingvistic „pur” va rămâne întotdeauna constrâns de limitele sale matematice. Din această perspectivă, agenții AI complet autonomi, capabili să funcționeze în condiții complexe și variate, sunt, cel puțin teoretic, imposibili.
Pe fondul acestor descoperiri, diferența dintre marketingul agresiv și realitatea tehnologică se face tot mai vizibilă. Promisiunea unei automatizări totale, deși extrem de tentantă pentru companii, nu se poate materializa pe baza infrastructurilor actuale. În loc să apară în curând ca soluții de încredere pentru sisteme critice, agenții AI continuă să fie, în cea mai bună zi, utile doar ca suport în activități complementare, nu ca înlocuitori ai factorului uman.
Pe măsură ce cercetările avansează și se cristalizează aceste limite tehnologice, întrebările despre realitatea și siguranța AI-ului autonom devin tot mai stringente. Industria va trebui, probabil, să își ajusteze așteptările și să trateze aceste modele nu ca soluții autonome complete, ci ca instrumente în continuă dezvoltare și limitate în fapt. În timp ce unele companii investesc în ultimele soluții, altele încep să privească cu mai mult scepticism promisiunile despre un viitor în care mașinile vor prelua decizii critice fără supraveghere umană, recunoscând în același timp, în sfârșit, limitele reale ale tehnologiei.
