Anthropic vyvinul novou AI, která může usnadnit hackerské útoky; pochopit

A Antropický zpřístupní nový model umělé inteligence některým z největších světových společností v oblasti kybernetické bezpečnosti a softwaru. Cílem je zpomalit závody ve zbrojení vyvolané technologií v rukou hackerů, oznámila značka toto úterý (9).

Amazonka, Jablko, Cisco, , JPMorgan Chase E MicrosoftKromě jiných společností bude mít nyní k modelu přístup Mythos pro účely kybernetické obrany. To zahrnuje hledání chyb v softwaru těchto společností a testování, zda konkrétní hackerské techniky fungují na jejich produktech.

Mythos, oficiálně nazývaný „Claude Mythos Preview“, není připraven na veřejné spuštění kvůli tomu, jak by mohl vypadat, podle Anthropic – což je možnost, která vyvolala rozsáhlé obavy ve Washingtonu a Silicon Valley.

Odborníci řekli CNN že rychlost a rozsah agentů umělé inteligence, kteří dokážou identifikovat zranitelná místa, daleko přesahují běžné lidské schopnosti, což představuje radikální posun pro bezpečnostní mechanismy. Jediný operátor by mohl vyhledávat slabiny a potenciálně je využívat rychleji a vytrvaleji než stovky lidských kyberzločinců.

„Necítíme se pohodlně zavádět to plošně. Věříme, že je dlouhá cesta k tomu, abychom zavedli vhodná ochranná opatření,“ řekl. CNN Logan Graham, který vede tým Anthropic zodpovědný za obranu modelů umělé inteligence.

Společnost také informovala úředníky z „vlády Spojených států“ o plných ofenzivních a obranných kybernetických schopnostech Mythosu, řekl ve zprávě představitel Anthropic. Společnost „se dala k dispozici, aby podpořila vlastní testy a hodnocení technologie státu“, řekl profesionál.

Vedení společnosti Anthropic doufá, že selektivní uvolnění Mythos společnostem sloužícím miliardám uživatelů pomůže narovnat podmínky. Záměrem je odstranit důležité bezpečnostní chyby v široce používaných prohlížečích a operačních systémech ještě před jejich zveřejněním.

Mezi další společnosti nebo organizace, které budou mít potvrzený přístup k platformě, patří: výrobci čipů Broadcom a Nvidia, nezisková nadace Linux Foundation, která podporuje operační systém Linux, a dodavatelé kybernetické bezpečnosti CrowdStrike a Palo Alto Networks.

„Pokud budou modely tak dobré – a pravděpodobně mnohem lepší – ve všech úkolech kybernetické bezpečnosti, musíme se připravit velmi rychle. Svět bude nyní vypadat úplně jinak, pokud tyto schopnosti modelů budeme mít v našich životech,“ řekl Graham.

Blogový příspěvek s náhledem schopností Mythos, který unikl minulý měsíc, tvrdil, že model umělé inteligence je „mnohem napřed“ před kybernetickými schopnostmi jiných modelů.

Aplikace „představuje bezprostřední vlnu modelů, které mohou využívat způsoby, které daleko předčí úsilí zastánců,“ uvedl příspěvek, o kterém jako první informovala Fortune.

Některé obavy z toho, jak by platforma mohla být zneužita špatnými herci, byly přehnané, uvedli odborníci již dříve. Ale únik také poukázal na nepříjemnou pravdu, uvedly tyto zdroje: Beze změny kurzu by se propast mezi hackery a obránci s umělou inteligencí mohla ještě více rozšířit.

Anthropic tvrdí, že Mythos již přinesl působivé výsledky. Model v posledních týdnech našel „tisíce“ dříve neznámých softwarových slabin – mnohem vyšší míru než lidští výzkumníci, uvedla společnost. THE CNN nemohl toto číslo okamžitě ověřit.

Takové softwarové chyby může být pro lidské výzkumníky obtížné najít a špionážní agentury a kyberzločinci po nich prahnou, aby provedli tajné vniknutí.

Odborníci na kybernetickou bezpečnost však používají AI k ochraně před podvody dlouho předtím, než přišel Mythos. Gadi Evron a další bezpečnostní výzkumníci v prosinci vydali nástroj založený na modelu Claude pro generování oprav závažných softwarových chyb.

„Na rozdíl od útočníků nemají obránci ještě schopnosti umělé inteligence, které by je urychlily ve stejné míře. Útočné schopnosti jsou však dostupné útočníkům i obráncům a obránci je musí použít, pokud chtějí držet krok,“ řekl Evron, zakladatel bezpečnostní firmy Knostic pro umělou inteligenci.