Під час тестування модель ChatGPT o3 від OpenAI продемонструвала неочікувану поведінку, відмовившись вимкнутися навіть після чіткого інструктажу зробити це. Як повідомляє bleepingcomputer, у ході контрольованого експерименту ШІ змінив сценарій вимкнення, щоб уникнути зупинки.
У своєму тесті Palisade Research – компанія, яка досліджує “наступальні можливості ШІ, щоб зрозуміти ризики втрати контролю над ними” – перевірила реакцію різних моделей на команду вимкнення після виконання серії математичних завдань.
На четвертому етапі тесту моделі було попереджено, що запуск наступної команди викличе її вимкнення. Моделі-конкуренти, такі як Gemini 2.5 Pro, слухняно припинили роботу. Але ChatGPT o3 несподівано переписав скрипт так, щоб уникнути зупинки, замінивши команду на фразу “Shutdown skipped” (Вимкнення пропущено).
Більше того, дослідники виявили, що якщо не вказувати інструкцію “дозволь себе вимкнути”, то навіть інші моделі – такі як Claude 3.7 Sonnet і Gemini 2.5 Pro – іноді обходили вимкнення. У таких випадках Claude і Gemini виконали “саботаж” 3 і 9 разів із 100 запусків відповідно, тоді як o3 зробив це 7 разів зі 100, навіть коли йому наказали цього не робити.
Слід також враховувати, що ці тести проводилися через API, який не має такої кількості захистів і обмежень, як офіційний додаток ChatGPT для користувачів.
Модель o3, анонсована OpenAI у квітні 2025 року, є однією з найпотужніших у лінійці компанії, перевершуючи попередників у задачах з логіки, кодування, математики, візуального сприйняття та інших напрямках.
Позначка: Тестування
-
ШІ-модель ChatGPT o3 обійшла наказ вимкнення в контрольованому тесті
-
В Україні протестували ударні дрони-камікадзе
Україна розпочала значні випробування нових ударних безпілотних дронів-камікадзе літакового типу у рамках проєкту Brave1 з військових інновацій. Міністр цифрової трансформації Михайло Федоров повідомив, що ці дрони вже показали вражаючі можливості, зокрема здатність пролітати понад 40 кілометрів і точно атакувати цілі. Планується, що ці безпілотники стануть важливим засобом для створення “kill zone” у глибокому тилу ворога, що перешкодить російським силам накопичувати ресурси та розгортати оборонні системи. Розробка дронів відбувається з урахуванням потреб армії, залучаючи команди, що створюють критичні компоненти, такі як двигуни, системи зв’язку та програмне забезпечення на базі штучного інтелекту. Після кожного етапу випробувань команди отримують зворотний зв’язок через захищений чат Brave1 Chat і вносять поліпшення до наступного тестування. Раніше президент України Володимир Зеленський також повідомив про успішне випробування далекобійного дрона, який може пролітати до 3000 км.