Antropic na příkaz USA pozastavuje přístup k novému modelu umělé inteligence; zjistit více

A Antropický pozastavil přístup ke svým novým modelům umělé inteligence, Fable 5 a Mythos 5pro zahraniční uživatele. Opatření by bylo přijato na příkaz vlády Spojených států. Rozhodnutí se vztahuje na každého občana jiné země, i když se nachází na americkém území, a týká se i zahraničních zaměstnanců samotné společnosti.

Podle společnosti byl příkaz vydán na základě otázek národní bezpečnosti a nespecifikuje, jaká rizika rozhodnutí motivovala.

V prohlášení řekl, že rozumí úřadům věří, že našli způsob, jak obejít bezpečnostní ochranu Fable 5, ale uvedl, že prezentovaná technika zahrnuje zranitelnosti považované za omezené a že podobné schopnosti lze nalézt v jiných veřejně dostupných modelech.

Společnost také uvedla, že analyzovala ukázku předpokládané techniky a našla pouze drobné nedostatky bez konkrétních výhod souvisejících s modelem. Žádný test zatím nenašel univerzální metodu schopnou prolomit bezpečnostní bariéry systému.

Anthropic argumentoval, že Fable 5 byl vyvinut s pokročilými ochrannými mechanismy, aby se snížilo zneužití technologie v činnostech souvisejících s digitálními útoky. Podle společnosti podstoupil model před uvedením na trh tisíce hodin bezpečnostních testů, včetně hodnocení s vládními agenturami a soukromými organizacemi.

Ostatní modely Claude nadále normálně fungují. Americká vláda další prohlášení neučinila.

co je Claude?

Společnost byla založena v roce 2021 bývalými zaměstnanci OpenAI, a. Společnost je zodpovědná za chatbota Claude, který nabízí funkce podobné ChatGPT.

Navzdory tomu, že se jedná o nedávnou společnost, získala společnost Anthropic miliardové investice od technologických gigantů, jako je Google a Amazon, a získala významné místo za obranu bezpečnostního přístupu ve vývoji systémů umělé inteligence.

Společnost uvádí, že jejím posláním je vytvářet spolehlivější modely s větší kontrolou nad možným zneužitím.