Noul raport privind cercetătorii de siguranță în domeniul alarmelor de automatizare a IA de la Anthropic

Analiza detaliată a progresului AI autonom la Anthropic: implicații și contradicții majore

O investigație exhaustivă a METR, un grup de cercetare în domeniul siguranței AI, a dezvăluit o dinamică surprinzătoare. Acest lucru s-a bazat pe o monitorizare internă de 11 săptămâni a cercetării și dezvoltării Anthropic.

Observațiile arată că AI este un puternic catalizator pentru cercetarea Anthropic. Acest lucru contradectează cererile publice ale companiei de a încetini dezvoltarea AI. Aceste descoperiri apar pe măsură ce Anthropic se pregătește pentru o listare publică.

CEO-ul Dario Amodei a cerut public cercetătorilor să modereze viteza AI. Acest studiu a fost separat de un program de securitate anterior, după incidente de hacking de înaltă calitate în timpul verii. Dovezile arată clar cum IA își accelerează propriul progres.

Acest lucru ridică întrebări despre sistemele AI auto- îmbunătățite în viitor cu un aport uman minim.

Progresul exponențial: Datele cheie

METR a constatat că modelele de IA ale Anthropic s-au îmbunătățit de aproximativ două ori față de acum un an.

Scorul de referință sugerează că Anthropic a realizat doi ani de progres în ultimul an. Cercetătorii METR cred că această viteză provine în principal din contribuția AI, nu doar din capacitatea de calcul crescută. Sondajele informale Slack și interviurile susțin acest lucru.

Angajații care folosesc cel mai bun model intern au raportat o productivitate de aproximativ 12 ori mai mare. Aceasta este dublu productivitatea raportată luni mai devreme cu Mythos 5. În prezent, majoritatea câștigurilor provin din asistența AI umană.

Modele confidențiale și secretul corporativ

Cu toate acestea, METR a avertizat că contribuțiile complet autonome vor avea în curând importanță. Cercetătorii nu au găsit semne clare de încetinire sau blocuri de drum.

Trei dintre cele mai noi modele de AI ale Anthropic rămân confidențiale. Cele mai multe câștiguri provin din aceste modele interne nepublicate. Antropic a terminat instruirea a trei sisteme în ultimele șase luni. Acestea sunt modelul 2, modelul 3 și modelul 4. A fost de asemenea menționat un model Unreleased 2022. Antropic a împărtășit date non-confidențiale cu METR.

Acestea au inclus statistici privind performanța și transcrieri ale interviurilor. METR a notat că AI a împărtășit mai multe informații decât a fost planificat inițial. Cu toate acestea, Anthropic a refuzat accesul nelimitat.

Impactul reducerilor și justificarea comercială

Acest lucru diferă de o promisiune de similară cu accesul angajaților într-un program separat.

Restrictiunile au fost semnificative.

Antropic avea dreptul de a cenzura raportul final al METR. Acest drept a fost folosit pe scară largă. METR a remarcat că a fost prezentat un raport complet de 100 de pagini.

Versiunea publică a fost redusă semnificativ de aceste redacții.