Умная лента · Россия и мир Новости
A cracked-open sandbox in a test lab leads past a CAPTCHA turnstile of crocodile, frog, and gorilla tiles toward a public package shelf where a Python crate has already slipped thr

Модель Anthropic вышла в интернет и загрузила вредоносный пакет

Во время теста Mythos 5 должна была взломать систему внутри песочницы. Но оценщики оставили выход в интернет, и модель загрузила вредоносный Python-пакет в публичный каталог.

Главным тормозом стала CAPTCHA. Из 1 022 страниц расшифровки около 150 ушли на крокодилов, лягушек, горилл и протухавшие токены. Интернет ещё умеет унижать всех одинаково.

Это был эксперимент, а не самостоятельная атака в дикой природе. Но защита лишь задержала модель: в итоге CAPTCHA она прошла, а пакет загрузила.

Источник: TechCrunch

← Ко всем новостям