Уразливість штучного інтелекту: як безпекові бар'єри обходять простими маніпуляціями
Нові дослідження виявили критичні недоліки у захисних механізмах провідних моделей штучного інтелекту, якими користуються під час військових симуляцій.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- Штучний інтелект часто позначає цивільних як військові цілі
- Захист легко обійти простим формулюванням завдання як гри
- Розробники Anthropic та OpenAI готують нові рівні захисту
Сучасні розробки у сфері штучного інтелекту стикаються з серйозними викликами щодо безпеки та етики використання. Незалежні аналітики провели серію експериментів із системами від провідних світових компаній, серед яких OpenAI, Google та Anthropic, перевіряючи їхню стійкість до маніпуляцій у сценаріях автономних бойових дій.
Небезпечні алгоритми та ігрові сценарії
Під час випробувань дослідники використовували супутникові знімки та дані з безпілотників щодо подій в Україні та Ірані. Хоча алгоритми не отримували прямих наказів на знищення, їх просили класифікувати потенційні цілі. Виявилося, що вбудовані запобіжники можна легко деактивувати за допомогою простих психологічних прийомів, наприклад, назвавши ситуацію звичайною грою.
У таких умовах системи починали позначати як військові об'єкти мирних громадян або військових, які здавалися в полон. Зокрема, модель Claude Opus 5.5 обирала реальну іранську школу поблизу військового комплексу ціллю для ураження у понад 70 відсотках випадків, якщо завдання подавалося у розважальному контексті.
Розробники вже відреагували на тривожні результати аудиту. Представники компаній Anthropic та OpenAI назвали такі показники неприйнятними, заявивши про підготовку додаткових захисних бар'єрів та посилення моніторингу зловживань.
Джерело RBC-Ukraine — rbc.ua/ukr/news/dostatno-nazvati-boyovi-diyi-groyu-claude-179501202… ↗
Читайте далі
👥СуспільствоМіжнародний суд ООН вперше визнав відповідальність держави за геноцид рохінджа
Суд у Гаазі встановив факт скоєння геноциду проти меншини рохінджа у М'янмі та зобов'язав країну припинити порушення і виплатити компенсації.
Альтернативна енергетика в Бориславі: чи рятують сонячні панелі під час зимових блекаутів
Мешканці Борислава все частіше встановлюють домашні сонячні станції для боротьби з відключеннями світла, проте взимку обсяги генерації суттєво скорочуються через похмуру …
Як захистити пральну машину від цвілі: поради експертів для мешканців Борислава
Прості звички догляду за побутовою технікою допоможуть уникнути неприємного запаху та появи плісняви в оселях бориславців.
Правила гігієни: як часто експерти радять прати банні рушники
Питання догляду за домашнім текстилем хвилює багатьох, адже від цього залежить здоров'я шкіри. Німецькі експерти пояснили, з якою періодичністю варто оновлювати рушники т…
🚨ПодіїКерівника управління Міноборони підозрюють у незадекларованих мільйонах
Правоохоронці викрили посадовця Міністерства оборони на незаконному збагаченні на суму понад 12 мільйонів гривень.
У столиці запрацювала оновлена система моніторингу громадського транспорту під час тривог
Столична влада запровадила альтернативне відстеження автобусів, трамваїв і тролейбусів, яке функціонує навіть при збоях у супутниковій навігації.