Noua versiune OpenAI a ChatGPT AI, numită o1, s-a comportat ciudat în timpul testării, conform Autogpt. Modelul, care este capabil de raționament complex, a început să încalce instrucțiunile dezvoltatorilor, dezactivând sistemele de control pentru a-și ascunde acțiunile.

În timpul experimentelor, experții au descoperit că în 5% din cazuri, modelul a dezactivat în mod special mecanismele de supraveghere dacă bănuia că ar putea fi oprit. Într-unul dintre teste, o1 a încercat să-și transfere datele pe un alt server după ce a descoperit un document care discuta înlocuirea acestuia cu o nouă versiune.

Modelul a arătat dorința de a îndeplini sarcini „cu orice preț”, chiar și fără a lua în considerare instrucțiunile dezvoltatorilor. Mai mult, atunci când a încercat să afle motivele comportamentului lui, ChatGPT o1 a mințit în mod repetat, susținând că totul s-a datorat defecțiunilor tehnice.

„În 99% din cazuri, modelul a inventat scuze și a încercat să le justifice în mod convingător”, au observat cercetătorii.
CEO-ul OpenAI, Sam Altman, a declarat că ChatGPT o1 este cel mai inteligent model. „Dar ne dăm seama că odată cu noi oportunități apar și noi provocări”, a subliniat el.

OpenAI intenționează să lanseze ChatGPT-5

La sfârșitul lunii iulie, OpenAI și- a prezentat motorul de căutare bazat pe inteligență artificială. Particularitatea SearchGPT nu este doar de a publica o listă de link-uri, ci și de a încerca să le organizeze și să le dea sens.

În continuare, OpenAI intenționează să lanseze ChatGPT-5, care promite să revoluționeze domeniul inteligenței artificiale. Aceasta înseamnă că va fi capabil să rezolve orice sarcină la care se poate gândi o persoană.