Al doilea articol din seria Perceived AGI e despre entropie

Al doilea articol din seria Perceived AGI, Entropy in Conversational AI, este acum disponibil pe site-ul arXiv. Primul, Perceived AGI, e publicat din iulie.

Când stăm de vorbă, nu facem doar schimb de informații. Ezităm, ne îndoim, ne simțim stările unii altora. Asistenții AI sunt gândiți fix invers: să dea un răspuns clar și logic la orice îi întrebi. E util, dar tot de aceea ai uneori impresia că vorbești singur.

Nu rezolvi nimic dacă îl lași să aleagă cuvintele la întâmplare. Se repetă mai puțin, dar e ca și cum ar da cu zarul: nu duce nimic cu el de la o replică la alta. Noi vrem altceva: răspunsuri pe care nu le poți ghici dinainte, dar care, puse cap la cap, au un fir al lor, ca la un om. Asta numesc eu entropie în articol, și o definesc în așa fel încât să se poată măsura.

Pe urmă am încercat ceva simplu: peste un model obișnuit, neatins, am pus un mecanism mic care ține minte câte ceva de la o replică la alta și își alege răspunsul în funcție de asta. Pe modelul mic pe care l-am testat, majoritatea predicțiilor nu s-au adeverit. Scrie negru pe alb în articol. Ce rămâne în picioare sunt definiția și testul, pe care oricine le poate relua pe un model mai mare.

De ce să-ți bați capul cu așa ceva? Pentru că, dacă luăm în serios și ezitările dintr-o conversație, nu doar informația, putem ajunge la asistenți mai empatici, cu care poți vorbi omenește. Și pentru că oamenii se atașează altfel de ceva care pare să aibă o viață interioară. Tocmai de aceea, așa ceva trebuie verificat după reguli stabilite dinainte, nu doar afirmat. Dacă oamenii chiar simt că e o minte acolo, asta rămâne de văzut în studiul următor, cu oameni.