Dezvoltarea modelului Claude Mythos de către Anthropic a dus la organizarea unor reuniuni de urgență, după ce acesta a identificat vulnerabilități în toate sistemele de operare și browserele importante.
Experții au avertizat că modelul are potențialul de a identifica și exploata punctele slabe ale securității cibernetice într-un mod fără precedent.
Ministrul canadian al finanțelor, François-Philippe Champagne, a declarat pentru BBC că Mythos a fost discutat pe larg de colegii săi la reuniunea cheie a Fondului Monetar Internațional (FMI) de la Washington DC din această săptămână.
„Cu siguranță, este suficient de grav pentru a justifica atenția tuturor miniștrilor de finanțe. Diferența este că, în cazul Strâmtorii Ormuz, știm unde se află și cât de mare este… problema cu care ne confruntăm în cazul Anthropic este că este ceva necunoscut, necunoscut. Acest lucru necesită multă atenție, astfel încât să avem măsuri de protecție și procese în vigoare pentru a ne asigura că garantăm reziliența sistemelor noastre financiare”, a spus el.
Bancherii vor avea acces la model în avans pentru a-și testa sistemele
Directorul executiv al Barclays, CS Venkatakrishnan, a declarat pentru BBC: „Situația este suficient de gravă încât oamenii să aibă motive de îngrijorare. Trebuie să o înțelegem mai bine și trebuie să înțelegem vulnerabilitățile care sunt expuse și să le remediem rapid”.
El a adăugat că „așa va arăta noua lume” – referindu-se la un sistem financiar mult mai conectat, cu oportunități, dar și vulnerabilități.
Deși dezvoltatorul Anthropic a afirmat că modelul a expus deja multiple vulnerabilități de securitate în unele sisteme de operare critice, sisteme financiare și browsere web, guvernelor și băncilor li se oferă acces înainte de lansarea publică a acestuia, pentru a le ajuta să-și protejeze propriile sisteme.
Guvernatorul Băncii Angliei, Andrew Bailey, a declarat pentru BBC că această evoluție trebuie luată foarte în serios: „Trebuie să analizăm foarte atent acum ce ar putea însemna această ultimă evoluție a IA pentru riscul de criminalitate cibernetică. Consecința ar putea fi dezvoltarea IA și a modelării, ceea ce ar facilita detectarea vulnerabilităților existente în sistemele IT de bază, iar apoi, evident, infractorii cibernetici – actorii rău intenționați – ar putea încerca să le exploateze”.
O altă companie planifică o lansare similară
Trezoreria SUA a confirmat că a ridicat această problemă în discuție cu marile bănci, încurajându-le să-și testeze sistemele înainte de lansarea publică a Mythos de către Anthropic.
Surse din industria financiară au indicat că o altă companie americană de renume din domeniul IA ar putea lansa în curând un model la fel de puternic, dar fără aceleași măsuri de protecție.
James Wise, partener la Balderton Capital, este președintele unității Sovereign AI, un fond de capital de risc care va investi în companii britanice de IA, susținut de o finanțare guvernamentală de 500 de milioane de lire sterline.
El a spus că Mythos este „primul dintr-o serie de modele mult mai puternice” care pot expune vulnerabilitățile sistemelor.
Unitatea sa „investeste in companii britanice de IA care se ocupa de acest aspect – companii care activeaza in domeniul securitatii si sigurantei IA”, a declarat el in cadrul emisiunii Today a BBC.
„Speram ca modelele care expun vulnerabilitatile sa fie, de asemenea, modelele care le vor remedia”.
MAI MULT MEDIAFAX
