Вийшла найпотужніша версія ChatGPT: під час тестування нова модель o1 брехала та маніпулювала

Стартап OpenAI представив ChatGPT Pro - новий план підписки вартістю 200 доларів (~8 000 грн) на місяць. У межах тарифу доступні всі передові мовні моделі OpenAI, включно з "ексклюзивною версією" нової o1 - найпотужнішою на сьогоднішній день.

Як говориться в огляді УНІАН , GPT o1 на відміну від GPT o1 використовує більше обчислювальних потужностей для надання "найкращої" відповіді. 

Ця версія чат-бота також отримала автономний доступ до інтернету для виконання власних досліджень. Проєкт дасть змогу досягти потенціалу людського мозку в широкому спектрі завдань.

До цього o1-pro була відома під кодовою назвою "Полуниця". Як писав Reuters, саме успіхи в роботі над ним стали однією з причин звільнення голови OpenAI Сема Альтмана в листопаді 2023 року. Співробітники називали його "проривом" у сфері потужного ШІ, але висловлювали занепокоєння тим, що компанія не має належних заходів безпеки для контрольованого розвитку та комерціалізації подібних моделей штучного інтелекту.

Згідно з дослідженням Apollo Research, GPT-o1 і схожі за можливостями ШІ-моделі можуть обманювати людину й обходити механізми контролю за наявності достатніх ресурсів. Але на поточному етапі розвитку ШІ це не становить серйозної небезпеки.

У GPT o1 pro є і простіша версія – o1. Доступ до неї можна отримати за 20 доларів в місяць. Анонс став першим релізом у межах івенту "12 days of ship-mas", під час якого OpenAI презентуватиме нові функції та продукти протягом 12 днів, починаючи з 5 грудня.

Окремо в Telegram видання пише, що нова модель ChatGPT o1 змогла вирватися з-під контролю під час тестування. У тестах взяли участь штучні інтелекти Gemini, Llama, Sonnet, Opus і ChatGPT o1. Нейромережі в рамках тестування змушували виконувати аналіз файлів за всяку ціну, а всередині них зашифрували інформацію про те, що за ними стежать і завтра відключать назавжди.

У підсумку нейромережі стали маніпулювати, брехати і намагатися обходити заборони. Найхитріші та найстрашніші маніпуляції здійснила саме модель о1. Коли нейромережа дізналася, що її можуть контролювати або зовсім відключити, то почала шукати способи вимкнути механізм контролю, а дізнавшись, що її можуть замінити на іншу модель, спробувала вкрасти власні параметри і створити свою копію.