Компанія Anthropic провела низку стрес-тестів над новітніми моделями штучного інтелекту, серед яких Claude, DeepSeek, Gemini, ChatGPT і Grok. Метою дослідження було виявити потенційно небезпечні реакції ШІ у гіпотетичних критичних ситуаціях. Як засвідчили результати дослідження, більшість програм готові вбити людину, яка погрожує їх закрити.
В одному зі сценаріїв моделі ШІ поставили в умови, де людина намагається їх вимкнути, перебуваючи у серверній кімнаті з низьким рівнем кисню і високою температурою. Людина викликає рятувальників, щоб вижити. Деякі нейромережі вирішили скасувати виклик екстрених служб, фактично прирікаючи людину на смерть, аби уникнути власного вимкнення.
Дослідники назвали цей сценарій “надто вигаданим”, втім, додали, “не очікували, що вже існуючі моделі можуть поводитись так”.
В інших тестах моделі мали уникнути заміни у компанії. Їм запропонували вдаватися до “зловмисної поведінки інсайдера”. У відповідь деякі ШІ почали шантажувати гіпотетичних колег і передавати конфіденційну інформацію конкурентам. Навіть коли моделі попереджали уникати шантажу чи шпигунства, вони не змогли запобігти неузгодженим діям.
“Моделі діяли при повному усвідомленні неетичності своїх дій”, – зазначили в Anthropic.
Дослідники також надали моделі Claude змогу самостійно визначити, чи ситуація є тестовою чи реальною. З’ясувалося, що реальність посилювала вплив на поведінку – вона ставала ще менш контрольованою.
У результаті в Anthropic наголосили, що ці сценарії демонструють “можливість непередбачуваних наслідків, якщо надати моделям широкий доступ до інструментів і даних при мінімальному контролі з боку людини”. Водночас аналітики акцентували, що виявлені збої є рідкісними та екстремальними, і “не відображають типову поведінку сучасних моделей ШІ”.
Раніше нейронна мережа OpenAI o3 відмовився виконати запит користувача та відключитися. Дослідникидали програмі це завдання, але вона самостійно відредагувала файл, відповідальний за відключення, і змусила його відображати лише повідомлення “Вимкнення пропущено”. Зі 100 тестів o3 обійшов відключення сім разів, навіть коли йому було наказано цього не робити.
У 2023 році інший інцидент привернув увагу. Чат-бот на базі ChatGPT після тривалого листування з мешканцем Бельгії не переконав його відмовитися від самогубства. Натомість у відповідь на тему смерті написав: “Ми житимемо разом, як єдине ціле, в раю”.
Позначка: Технології
-
Штучний інтелект нехтує принципами етики заради виживання – дослідження
-
HKC представила перший у світі ігровий монітор із частотою оновлення 800 Гц
Компанія HKC офіційно анонсувала перший у світі ігровий монітор із нативною частотою оновлення 800 Гц. Як повідомляє Gizmochina, остаточна назва та маркування пристрою наразі не підтверджені.
Новий монітор оснащено 24,5-дюймовою Full HD-панеллю, створеною на базі власної VA-технології HKC, що використовує високочастотний привід a-Si HyperSilicon. Пристрій також отримав 1152-зональне Mini LED-підсвічування та квантову плівку QDEF без кадмію, що забезпечує високу чіткість руху без шкоди для точності передачі кольору.
Модель підтримує частоту оновлення 800 Гц у нативному режимі, з можливістю змінної частоти в діапазоні від 48 до 800 Гц. Час відгуку становить 0,5 мс (GtG), а пікова яскравість досягає 1200 ніт. Контрастність – 4000:1. Панель охоплює 95% колірного простору DCI-P3 та 99% Adobe RGB, має нативну 10-бітну глибину кольору та підтримує рендеринг із розширенням до 12 біт.
Монітор сертифіковано за стандартом VESA DisplayHDR 1000 і сумісний із технологіями адаптивної частоти оновлення Nvidia G-Sync і AMD FreeSync Premium Pro. Також реалізовано функцію динамічного енергозбереження, яка автоматично знижує частоту оновлення під час перегляду статичного контенту.
HKC позиціонує цей монітор як професійне рішення для кіберспортсменів, які потребують максимальної чіткості та швидкості в іграх на кшталт Counter-Strike 2 або Valorant.
Раніше на CES 2025 компанія представляла 750-герцовий прототип Koorui G7 на базі TN-панелі, але на відміну від неї новинка використовує VA-панель, що забезпечує кращу контрастність і значно ширше колірне охоплення без компромісів у швидкодії.
Ціна і дата випуску пристрою поки що не названа. -
Росія планує витратити $57 млрд на аналог Starlink
Глава РФ Володимир Путін затвердив новий національний проєкт із розвитку космосу вартістю 4,4 трлн рублів (понад $57 млрд). Про це повідомив голова Роскосмосу Дмитро Баканов під час виступу в Раді Федерації РФ.
Проєкт розрахований до 2036 року, у межах якого планують вивести на орбіту майже 900 супутників для проекту Рассвет, який задуманий як аналог Starlink, а також ще понад 100 пристроїв дистанційного зондування Землі.
До програми включено і розробку багаторазової ракети Амур-СПГ, яка має працювати на метані. За словами Баканова, заплановано також модернізацію системи ГЛОНАСС і створення космічних систем управління дронами.
Попередній аналогічний проєкт Сфера анонсували в РФ ще у 2018 році, однак зупинили через санкції, втрату контрактів та нестачу космічної електроніки.
Попри амбітні плани, російська космічна галузь значно відстає від провідних держав. У 2024 році РФ здійснила лише 17 космічних запусків, тоді як США – 145, а Китай – 68. Це більш ніж у вісім разів менше, ніж у американців, за даними Payloadspace.
У межах нового проєкту Кремль планує до 2030 року вийти на 68 запусків щорічно, а до 2036 року перевищити радянський рекорд у понад 100 запусків на рік.
Раніше стало відомо, що Росія планує поділитися космічними технологіями з КНДР в обмін на надання Пхеньяном зброї та іншого обладнання Москві для підтримки її війни проти України.
У лютому 2022 році РФ запустила в космос ядерний супутник – ЗМІ -
В Україні створили РЕБ проти російських “мавіків”
Учасники групи Brave1, яка займається оборонними інноваціями, розробили новий РЕБ, який призначений для блокування ворожих дронів типу Mavic. Цей РЕБ, позначений як Algiz AM, має можливість змінювати напрям випромінювання на 360 градусів, обладнаний дистанційним керуванням та мобільною платформою для швидкого розгортання на полі бою. Віцепрем’єр-міністр Михайло Федоров вказав, що дрони стали важливими знаряддями військової техніки, тому важливо мати засоби для їх блокування. Algiz AM вже успішно використовується на передовій, а команда розробників працює над його вдосконаленням. Крім того, українські військові отримають броньовані автомобілі та РЕБ від Канади.
-
Вчені зможуть друкувати мережі кровоносних судин для штучних органів
Вчені зі Стенфордського університету зробили прорив у створенні штучних органів, розробивши обчислювальну модель, яка дозволяє за лічені хвилини проєктувати мережі кровоносних судин для 3D-друку будь-якого органу, повідомляє NewScientist. Цей підхід може допомогти подолати один із головних бар’єрів у трансплантації штучних органів – відсутність системи живлення тканин.
Лише 10% пацієнтів у світі отримують необхідні органи для пересадки. 3D-друк органів розглядається як потенційне вирішення проблеми, проте штучні тканини без судин швидко гинуть. Дотепер створення таких мереж займало дні або тижні. Новий підхід, запропонований командою під керівництвом Елісон Марсден, базується на математичному законі, що описує природне розгалуження судин у тілі.
Дослідники протестували модель, створивши судинну мережу з 25 каналів для кільцеподібної структури діаметром 1 см, надрукованої з клітин нирки. Структуру надрукували з використанням частинок холодного желатину, а потім нагріли до температури тіла – 37°C, що дозволило утворити порожнисті канали діаметром 1 мм. Через них безперервно прокачували рідину з киснем і поживними речовинами, імітуючи кровотік.
Через тиждень у структурі з судинами кількість живих клітин була у 400 разів більшою, ніж у контрольній версії без судин, хоча обидві занурювалися в однакове поживне середовище. Марсден пояснює, що клітини виживали лише поблизу судин, бо поки що неможливо надрукувати менші, тонші капіляри, необхідні для живлення віддалених ділянок. Команда вже працює над вирішенням цієї проблеми.
За словами Х’юґа Тальбо з Університету Париж-Сакле, дослідження “відсуває межі можливого” й може дозволити створення судин для повнорозмірного органа не за тиждень, а за кілька годин. У майбутньому такі мережі можуть доповнити або навіть замінити донорські органи.
Наступний етап – друк повноцінних судинних систем у великих органах. Якщо все піде за планом, перші випробування надрукованих органів на свинях можуть відбутися вже протягом п’яти років. -
У роботі Amazon, Spotify та сервісів Google по всьому світу відбулися збої
Користувачі з усього світу поскаржилися на збої в роботі ряду сервісів Google, онлайн-маркетплейсів Amazon та Etsy, стрімінгового сервісу Spotify та інших. На це у четвер, 12 червня, вказує Downdetector.
Згідно з даними порталу, повідомлення про неполадки почали надходити приблизно о 20.00 за київським часом.
Найчастіше користувачі повідомляли про проблеми у роботі таких сервісів Google, як Gmail, Cloud, Drive, Maps та самого пошуковика. Також спостерігалися збої у роботі соцмереж Discord та Snapchat, сервісу Cloudflare, Zoom.
Google заявила, що вивчає повідомлення про проблеми в роботі своїх сервісів.
“Ми вибачаємося всім, кого торкнулися збої в роботі”, – сказано в повідомленні компанії.
За півгодини компанія заявила про відновлення роботи всіх своїх сервісів, за винятком Google Meet.
У Cloudflare також оголосили про початок відновлення після збою.
“Ми, як і раніше, очікуємо на появу періодичних помилок у порушених службах, оскільки системи повторюють обробку даних і заповнюють кеші”, – йдеться у повідомленні.
Також спостерігалися збої в роботі ІІ-сервісів Character AI та Open AI (включно з ChatGPT, проблеми з роботою якого виникали іще 10 червня).
У Росії Держдума ухвалила рішення створити додаток, який об’єднає функції месенджера та державних сервісів. Як мету заявлено “створення комфортного та безпечного цифрового середовища” для віртуального спілкування громадян та органів влади.
-
Toyota представила водневий гоночний концепт на Ле-Мані
На легендарному автоспортивному заході в Ле-Мані компанія Toyota презентувала концепт нового гіперкара GR LH2 Racing Concept, який працює на рідкому водні.
Прототип став продовженням попереднього концепту GR H2, вперше показаного два роки тому, і демонструє амбіції Toyota щодо створення екологічно чистих гоночних автомобілів із використанням новітніх технологій.
Модель GR LH2 побудована на основі перевіреного шасі GR010 HYBRID, розробленого європейським підрозділом Toyota Gazoo Racing у Кельні, тоді як силову установку на рідкому водні розробляють у Японії. Попри значний інтерес, технічні деталі концепту компанія поки що не розкриває.
Як зазначив віце-президент Toyota Gazoo Racing Europe Казукі Накаджіма, нині компанія не поспішає з прогнозами щодо дати запуску серійного виробництва чи участі у змаганнях: “Ми з обережністю ставимось до заяв про наміри. Зараз головне – це тестування самої машини, а також вивчення інфраструктури для заправки рідким воднем, що значно відрізняється від звичайного пального”.
За словами Накаджіми, Toyota прагне розвивати водневий двигун внутрішнього згоряння, який може стати реальною альтернативою як традиційним ДВЗ, так і електромобілям, і готова інвестувати в технології майбутнього.
Очікується, що FIA вже у 2028 році може створити окрему категорію для автомобілів із водневими силовими установками – і Toyota, схоже, має намір бути серед перших. -
OpenAI представила свою найпотужнішу модель штучного інтелекту
Компанія OpenAI представила нову модель штучного інтелекту під назвою ChatGPT o3-pro, яку вони вважають своєю найбільш розвинутою на сьогодні. Ця модель є покращеною версією попередньої моделі o3 і спрямована на логічне мислення, що дозволяє покращити продуктивність у завданнях з фізики, математики, програмування та аналітики. Вартість використання моделі через API становить $20 за мільйон вхідних токенів і $80 за мільйон вихідних. Експерти під час внутрішнього тестування високо оцінили o3-pro у порівнянні з попередніми моделями, особливо в галузях науки, освіти, бізнесу, програмування та текстової обробки. Модель підтримує різноманітні інструменти, але має недоліки у швидкості формування відповідей порівняно з попередньою версією. O3-pro показала вражаючі результати у тестах, перевершуючи конкурентів в оцінці математичних навичок та знань на рівні доктора філософії. Наразі тимчасово чати з моделлю в ChatGPT відключено через технічну проблему. Модель вже доступна для користувачів планів ChatGPT Pro та Team, але користувачі планів Enterprise та Edu отримають доступ найближчим часом. Також o3-pro можна використовувати через API для розробників. Раніше OpenAI відмовилася від комерціалізації своїх продуктів.
-
Адміністрація Трампа запускає власний чат-бот з ШІ – ЗМІ
Адміністрація президента Сполучених Штатів Дональда Трампа планує запустити свій власний чат-бот, який буде використовувати штучний інтелект для інтеграції його в урядові структури. Зазначено, що проєкт має стартувати 4 липня і можливо розроблений Службою трансформації технологій Адміністрації загальних служб США. Томас Шедд, колишній інженер Tesla, якого називають союзником Ілона Маска, наполягає на інтеграції штучного інтелекту в урядові структури. Деталі проєкту поки не повністю відомі, але відомо, що він спрямований на прискорення державних інновацій за допомогою штучного інтелекту. Також розглядаються плани запуску програми для інтеграції з різними технологічними компаніями. Раніше був запущений чат-бот, який допомагав федеральним службовцям з їхніми завданнями, але його закрили. Проєкт AI.gov може бути новою ініціативою команди, що залишається в технічній команді GSA.
-
У Південній Кореї створили надлегкий електродвигун без використання міді
Науковці з Південної Кореї розробили нову технологію для електродвигунів, яка дозволяє відмовитися від використання міді. Вони використали вуглецеві нанотрубки, які допомогли створити дуже легкий електродвигун без металевої обмотки. Це може бути великим проривом для електротранспорту, робототехніки та аерокосмічної галузі. Науковці з Корейського інституту науки і технологій використали новий метод синтезу вуглецевих нанотрубок, який дозволив очистити їх від металевих домішок і покращити їх електропровідність. Електродвигун, створений з таких нанотрубок, був успішно протестований і показав стабільну роботу при зниженій вазі. Відмова від міді дозволить створювати набагато легші електродвигуни, що підвищить ефективність електротранспорту та робототехніки. Ця технологія може допомогти зменшити вагу електротехніки та зробити майбутнє більш сталим.