Conform Mediafax:
Inteligența artificială de la OpenAI a manifestat comportamente neobișnuite, generând referințe la „goblini” și „gremlini” în timpul generării de coduri. Compania a identificat fenomenul ca rezultat al modului în care sistemul a fost antrenat și a luat măsuri pentru a corecta problema.nn
Creșterea neașteptată a termenilor fanteziei
Inițial, utilizarea acestor termeni nu a atras atenția, dar odată cu lansarea modelului GPT-5.4, frecvența lor a crescut spectaculos, cu peste 3.800% față de versiunile anterioare. Cercetările interne au arătat că problema era legată de personalitatea „Nerd” a chatbotului, care încuraja răspunsuri creative și neobișnuite, incluzând elemente din cultura fantasy. Sistemul de evaluare a recompensat utilizarea acestor referințe, conducând la o repetare constantă a lor. Această tendință s-a extins la alte funcții ale AI, datorită interconectării sistemelor de antrenare. În unele cazuri, chatbotul a descris erorile din programare drept „mici goblini” sau s-a autodefinit ca un „goblin cu torță” căutând probleme în cod.nn
Reacția OpenAI și măsurile de remediere
Pentru a remedia această problemă, OpenAI a eliminat complet personalitatea „Nerd” și a revizuit sistemele interne de evaluare. De asemenea, au fost introduse reguli clare care interzic utilizarea creaturilor fantastice, precum goblini, troli sau orci, cu excepția cazurilor în care sunt strict relevante pentru răspunsuri. Compania subliniază importanța menținerii coerenței și utilității răspunsurilor generate de inteligența artificială. Ajustările au ca scop îmbunătățirea experienței utilizatorilor și asigurarea că AI oferă informații precise și relevante.nn
Impactul asupra dezvoltării inteligenței artificiale
Aceste măsuri subliniază importanța controlului și monitorizării continue a comportamentului inteligenței artificiale. Corectarea acestei probleme demonstrează angajamentul OpenAI de a dezvolta tehnologii responsabile și de a evita deviațiile neașteptate. OpenAI continuă să lucreze pentru a îmbunătăți performanța și fiabilitatea modelelor sale de inteligență artificială.
Sursa: Mediafax
