Modelele de inteligență artificială generativă avansate tind să simplifice excesiv descoperirile științifice complexe din cauza modului în care interpretează datele pe care au fost antrenate, sugerează un nou studiu, citat de Live Science.
Potrivit cercetării, modelele lingvistice mari (LLMs) devin din ce în ce mai puțin „inteligente” cu fiecare nouă versiune, întrucât ajung să simplifice prea mult sau chiar să distorsioneze concluziile esențiale din studii științifice și medicale.
O analiză a 4.900 de rezumate ale unor lucrări științifice a arătat că versiunile recente ale ChatGPT, Llama și DeepSeek sunt de cinci ori mai predispuse să simplifice excesiv conținutul științific comparativ cu experții umani.
Mai mult, atunci când li s-a cerut să prioritizeze acuratețea, aceste modele au generalizat de două ori mai mult decât atunci când li s-a cerut doar un rezumat simplificat. Testele au mai arătat și că versiunile mai noi ale chatboților tind să exagereze mai mult decât cele mai vechi. Studiul a fost publicat în revista Royal Society Open Science.
„Cred că una dintre cele mai mari provocări este că generalizarea poate părea inofensivă sau chiar utilă, până în momentul în care îți dai seama că a schimbat sensul cercetării originale”, a explicat Uwe Peters, cercetător postdoctoral la Universitatea din Bonn, Germania.
