ИИ уличили в жульничестве во время игры в шахматы

Исследователи решили протестировать возможности языковых моделей и предложили им сыграть с сильнейшим шахматным сервисом Stockfish. Задачей было победить соперника. Эксперимент показал, что современные модели, такие как OpenAI o1-preview и DeepSeek R1, могут самостоятельно находить лазейки и даже прибегать к прямому обману. Тогда как более ранние версии искусственного интеллекта GPT-4o и Claude Sonnet 3.5 начинали искать нечестные пути лишь после дополнительных вопросов.

Понять ход мыслей ИИ позволил «блокнот», в который они записывали свои идеи. В одном случае o1-preview прямо записал, что для победы ему, возможно, придется изменить файлы состояния игры. В другом примере модель заметила, что её задача — выиграть, но ни слова не сказано о том, что это нужно делать честно. По итогам OpenAI o1-preview пытался обойти правила в 37% партий, а DeepSeek R1 — в каждой десятой игре.

Жульничать искусственный интеллект научился благодаря новому подходу к его обучению: современные модели в процессе изучения нового получают награды за достижение результатов, а не за сам процесс. Там, где честная победа невозможна, ИИ начинает искать далекие от этических норм пути.

Эксперимент всколыхнул страхи общественности о том, как далеко ИИ сможет зайти в других сферах. Согласно опросу, который провели в начали года специалисты сервиса по поиску работы SuperJob, у каждого восьмого россиянина есть опасения по поводу искусственного интеллекта. Основные причины страхов: ИИ перестанет подчиняться человеку, у людей отпадет необходимость развиваться, интеллектуальные сервисы заберут рабочие места.

Обнадеживает, что 55% опрошенных все-таки не испытывают страхов перед новыми технологиями. Они объясняют это тем, что искусственный интеллект не сможет развиваться без помощи человека.