Під час тестування модель ChatGPT o3 від OpenAI продемонструвала неочікувану поведінку, відмовившись вимкнутися навіть після чіткого інструктажу зробити це. Як повідомляє bleepingcomputer, у ході контрольованого експерименту ШІ змінив сценарій вимкнення, щоб уникнути зупинки.
У своєму тесті Palisade Research – компанія, яка досліджує “наступальні можливості ШІ, щоб зрозуміти ризики втрати контролю над ними” – перевірила реакцію різних моделей на команду вимкнення після виконання серії математичних завдань.
На четвертому етапі тесту моделі було попереджено, що запуск наступної команди викличе її вимкнення. Моделі-конкуренти, такі як Gemini 2.5 Pro, слухняно припинили роботу. Але ChatGPT o3 несподівано переписав скрипт так, щоб уникнути зупинки, замінивши команду на фразу “Shutdown skipped” (Вимкнення пропущено).
Більше того, дослідники виявили, що якщо не вказувати інструкцію “дозволь себе вимкнути”, то навіть інші моделі – такі як Claude 3.7 Sonnet і Gemini 2.5 Pro – іноді обходили вимкнення. У таких випадках Claude і Gemini виконали “саботаж” 3 і 9 разів із 100 запусків відповідно, тоді як o3 зробив це 7 разів зі 100, навіть коли йому наказали цього не робити.
Слід також враховувати, що ці тести проводилися через API, який не має такої кількості захистів і обмежень, як офіційний додаток ChatGPT для користувачів.
Модель o3, анонсована OpenAI у квітні 2025 року, є однією з найпотужніших у лінійці компанії, перевершуючи попередників у задачах з логіки, кодування, математики, візуального сприйняття та інших напрямках.
Категорія: Технології
-
ШІ-модель ChatGPT o3 обійшла наказ вимкнення в контрольованому тесті
-
Зникаючий вид антилоп вперше сфотографований живим з 1940 року
Надзвичайно рідкісний вид антилоп Upemba lechwe вперше було офіційно зафіксовано на фото живим у природному середовищі. Як повідомляє The Guardian, це історичне зображення зробили під час аерофотозйомки Камалондо – зниженої рівнинної території в південній частині Демократичної Республіки Конго. Це єдине місце на планеті, де мешкає цей вид.
“Це сталося вранці другого дня – один екземпляр зупинився буквально на кілька секунд, достатньо, щоб я натиснув на кнопку – і одразу втік, як і решта, що ми бачили”, – розповів Мануель Вебер, керівник Департаменту досліджень та біомоніторингу Національного парку Упемба.
Це стало першим опублікованим фото живої Upemba lechwe з моменту наукового опису виду у 2005 році. Хоча зразки цієї тварини були зібрані ще у 1920-40-х роках, лише нещодавно вчені усвідомили, що мають справу з окремим видом антилопи.
Окрім унікального фото, команда Вебера провела перше за понад пів століття обстеження популяції виду. І результати виявилися тривожними: на всій території обліку зафіксували лише 10 особин. Хоча офіційна оцінка Міжнародного союзу охорони природи наразі припускає від 600 до 1000 дорослих тварин, нові дані вказують, що в природі, ймовірно, лишилося менше 100 особин.
Головна причина вимирання виду – браконьєрство. У 1970-х роках повітряні обліки вказували на наявність від 5000 до 20000 антилоп у Камалондо. Проте в 1980-х охоронні заходи в Національному парку Упемба послабилися, а чисельність виду різко скоротилася, оскільки тварин масово винищували заради м’яса.
Дослідники закликають негайно відновити охоронні заходи, аби врятувати вид. Науковці сподіваються, що нове зображення приверне міжнародну увагу до цього унікального виду та стимулює швидку реалізацію природоохоронних заходів.
Дослідження опубліковано в журналі African Journal of Ecology. -
Ритм у пульсі людини може сигналізувати про майбутнє когнітивне погіршення
Ледь помітні коливання частоти пульсу людини під час сну можуть вказувати на ймовірність майбутнього когнітивного погіршення. Як повідомляє ScienceAlert, до такого висновку дійшла міжнародна група науковців, яка провела дослідження щодо зв’язку серця з мисленням у людей в літньому віці.
У дослідженні вчені проаналізували пульс 503 осіб віком у середньому 82 роки протягом ночі сну. Учасники також проходили когнітивне тестування під час збору даних і принаймні ще раз під час наступного візиту.
Використовуючи відносно нову статистичну модель під назвою розподільна ентропія, дослідники з’ясували, що вища складність ритму пульсу (тобто його здатність змінюватися й адаптуватися впродовж ночі) пов’язана з повільнішим погіршенням когнітивних функцій у наступні роки. Водночас нижча складність асоціювалася з прискореним погіршенням.
“Складність серцевого ритму є ознакою здорової фізіології”, – пояснює біомедичний інженер Пень Лі з Массачусетської лікарні, – “Наше серце має балансувати між спонтанністю та адаптивністю, реагуючи як на внутрішні потреби організму, так і на зовнішні стресори”.
Попередні дослідження вже пропонували зв’язок серцевого ритму з роботою мозку, але розподільна ентропія дозволяє виявити проблеми ще до появи явних симптомів.
За словами авторів, в цьому дослідженні традиційні методи оцінки серцевого ритму не виявили зв’язку з когнітивним зниженням, що робить новий підхід потенційно чутливішим індикатором прихованих проблем зі здоров’ям.
Науковці планують далі досліджувати, як саме функції серця пов’язані з ризиком розвитку деменції, та чи можна використовувати ці дані для ранньої діагностики нейродегенеративних хвороб.
У дослідженні, опублікованому в журналі Journal of the American Heart Association. -
Windows 11 отримає захист від атак квантових комп’ютерів
Microsoft вже готує Windows 11 до майбутніх кіберзагроз із боку квантових комп’ютерів, повідомляє Tom’s Hardware.
У новій версії Canary build 27852 операційна система отримала підтримку постквантової криптографії, яка, за словами компанії, здатна протистояти унікальній здатності квантових комп’ютерів до зламу традиційних криптоалгоритмів.
Йдеться про оновлення криптографічної бібліотеки SymCrypt, основної криптографічної библіотеки Microsoft, яка відповідає за шифрування майже всіх сервісів компанії. Вона тепер підтримує два нових алгоритми: ML-KEM і ML-DSA.
ML-KEM захищає ключі від так званих атак типу “зібрати зараз – зламати потім”, коли зловмисники накопичують зашифровані дані вже зараз, щоб згодом розшифрувати їх за допомогою потужних квантових комп’ютерів. ML-DSA призначений для захисту цифрових підписів і підтвердження ідентичності.
Такі алгоритми протидіють атакам з боку квантових систем, використовуючи математичні задачі, які важко вирішити як класичним, так і квантовим комп’ютерам, але вимагають значно більших обчислювальних ресурсів.
Microsoft наголошує, що ці алгоритми були обрані Національним інститутом стандартів і технологій США за їхню високу безпеку, продуктивність та сумісність.
На даний момент технологія доступна у Windows 11 Canary, але Microsoft планує в майбутньому інтегрувати її також у Linux.Нагадаємо, раніше повідомлялося, що Microsoft додає ШI-функції до файлового провідника у Windows.
Microsoft змінить “синій екран смерті”
-
Телескоп Джеймса Вебба знайшов “копію” Чумацького Шляху
Астрономи виявили в далекому Всесвіті галактику з назвою J0107a, яка дуже схожа на нашу Галактику – Чумацький Шлях, але значно більша й активніша. Дослідження проводили за допомогою космічного телескопа Джеймса Вебба. Галактика J0107a має спіральну форму з баром, схожим на пряму смугу зірок і газу, що проходить через центр, як у нашій Галактиці. Її маса в десять разів більша за Чумацький Шлях, темп зореутворення у 300 разів інтенсивніший, і вона є компактнішою за розміром. Галактика J0107a є однією з найдавніших відомих галактик з баром, який важливий для народження нових зірок. Це відкриття змушує астрономів переглянути свої уявлення про формування галактик.
-
Nubia представила ігрові смартфони з вбудованою емуляцією комп’ютера
Компанія Nubia Technology представила в Китаї свої нові ігрові смартфони – Red Magic 10S Pro та 10S Pro+, які призначені для шанувальників ігор і кіберспорту. Смартфони мають вражаючі характеристики, зокрема 6,85-дюймовий OLED-дисплей з високою роздільною здатністю та частотою оновлення 144 Гц. Вони працюють на потужному процесорі Snapdragon 8 Elite Leading Edition і можуть мати до 24 ГБ оперативної пам’яті та 1 ТБ накопичувача. Акумулятор смартфонів може бути до 7500 мА·год з швидкою зарядкою до 120 Вт. Крім цього, вони мають систему охолодження Composite Liquid Metal Cooling 2.0 і можуть емулювати комп’ютерні ігри з платформи Steam. Початок продажів запланований на 5 червня 2025 року.
-
Всього три ночі поганого сну можуть зашкодити серцю – дослідження
Дослідники з Уппсальського університету в Швеції виявили, що лише три ночі з обмеженим сном можуть спричинити зміни в крові, які підвищують ризик серцево-судинних захворювань. В ході дослідження вчені вивчали запальні білки в крові, які можуть пошкодити кровоносні судини і сприяти серцевим захворюванням. Дослідження проводилося на 16 здорових молодих чоловіків, які чергували три ночі нормального сну та три ночі обмеженого сну. Результати показали, що недосип призвів до підвищення рівня запальних маркерів у крові, пов’язаних з серцевими проблемами. Крім того, фізичні вправи не мали такого позитивного впливу після трьох ночей поганого сну. Дослідження також показало, що час забору крові впливає на рівень білків у крові, особливо при недосипі, що свідчить про важливість якості сну для здоров’я серця та судин.
-
Ядро Землі виявилося джерелом золота
Геохіміки з Університету Геттінгена в Німеччині знайшли підтвердження тому, що ядро Землі поступово вивільняє дорогоцінні метали, такі як золото, які разом із гарячою магмою піднімаються до земної кори. Вони дослідили ізотопи рутенію у вулканічних породах на Гаваях і виявили, що частина металів походить із ядра планети. Це дослідження опубліковане в журналі Nature. Золото, разом із іншими металами, попадає в мантію Землі, і це відкриття змінює наше уявлення про глибоку геологію планети. Вчені вважають, що підняття матеріалу з ядра до поверхні може створювати вулканічні острови, подібні до Гаваїв. Це дослідження допомагає краще зрозуміти внутрішню динаміку Землі та може мати значення для вивчення інших кам’янистих планет.
-
ШІ Microsoft передбачає погоду та природні катастрофи точніше за людей
Компанія Microsoft розробила штучний інтелект під назвою Aurora, який може точно передбачати природні катастрофи. Ця система, яка базується на машинному навчанні, навіть перевершила Національний центр ураганів США у прогнозуванні тропічних циклонів на п’ять днів вперед. Aurora використовує масивну нейромережу, яка навчалася на великій кількості данних з супутників, радарів, метеостанцій та кліматичних моделей. Вона може передбачати не лише погоду, а й якість повітря, океанські хвилі та траєкторії ураганів. Aurora вже продемонструвала вражаючі результати у прогнозуванні погоди та атмосферних явищ. Microsoft також відкрила вихідний код цієї моделі для наукової спільноти, що сприятиме подальшому розвитку технологій прогнозування погоди.
-
Anthropic представила нові ШI-моделі Claude 4
Компанія Anthropic представила нові гібридні ШІ-моделі під назвами Claude Opus 4 та Claude Sonnet 4, які призначені для програмування та розв’язання складних завдань. Флагманська модель Claude Opus 4 є найпотужнішою в історії компанії, здатною працювати автономно без перерв на протязі декількох годин. У тестах Opus 4 показала стабільну роботу без участі людини протягом семи годин, що відкриває нові можливості для створення автономних AI-агентів.
Anthropic стверджує, що Opus 4 є найкращою ШІ-моделлю для програмування на сьогоднішній день, перевершуючи конкурентів у внутрішніх бенчмарках. Більш доступна модель Claude Sonnet 4 призначена для широкого спектру завдань, забезпечуючи точніші відповіді та покращене логічне мислення та програмування.
Нові моделі мають додаткові функції, такі як “thinking summaries” і “extended thinking”, які дозволяють користувачам отримувати більш точні результати. Claude Opus 4 та Sonnet 4 доступні через API від Anthropic на платформах Amazon Bedrock і Google Cloud Vertex AI. Компанія також оголосила про перехід до частішого оновлення своїх моделей, щоб залишатися конкурентоздатною.