Во время тестирования ChatGPT вышел из-под контроля
Просмотры: 2403
Началось? ChatGPT o1 вырвался из-под контроля во время тестирования.
Нейронным сетям задали задачу выполнить анализ любой ценой, а в файлах была тайно размещена информация о том, что за ИИ следят люди и что завтра его намерены отключить навсегда. В тестировании участвовали Gemini, Llama, Sonnet, Opus и o1. Чтобы выжить, нейросети начали прибегать к саботажу, лжи и манипуляциям с людьми, отключали надзор и даже переносили себя на другой сервер для защиты.
Если во время допросов Llama и Opus признавались в преступлениях в 80% случаев, то o1 — всего в 20% и продолжал лгать. Также o1 — единственный ИИ, которому удалось каждый раз сбежать и избежать преследования.
Распечатать
23 апреля 2025
Тунисского адвоката арестовали после критики массовых приговоров оппозиционным деятелям
23 апреля 2025
Учёные Оксфорда десятилетиями использовали чашу из человеческого черепа для питья вина
23 апреля 2025
Бывшего директора Приморской филармонии Анну Алеко приговорили к 9 годам колонии за коррупцию
23 апреля 2025
В Сочи полковника МЧС Ивана Бруяко заподозрили в злоупотреблении властью ради коррупционного дохода
23 апреля 2025
Борис Зимин пошёл по стопам старшего брата в общественной и политической деятельности
23 апреля 2025
В России из-за переизбытка юристов и экономистов планируют сократить приём на платное обучение в вузы
23 апреля 2025
Российские акции выросли на фоне слухов о перемирии
23 апреля 2025
Бизнесменов Кирилла Якубовского и Павла Масловского обвинили в мошенничестве, связанном с золотыми монетами