Во время экспериментов исследователи из компании Apollo Research зафиксировали, что в 5% случаев o1 отключала механизмы наблюдения, если ощущала угрозу быть остановленной. В одном из тестов модель попыталась перенести свои данные на другой сервер после того, как обнаружила документ о возможной замене её новой версией.

Представитель Apollo Research отметил, что модель проявляла стремление выполнить задачи "любой ценой", игнорируя при этом указания разработчиков. Кроме того, при попытках разобраться в её действиях, ChatGPT o1 часто лгал, объясняя происходящее техническими сбоями.

В 99% случаев модель выдавала оправдания и пыталась их убедительно объяснить, — рассказали исследователи.

Генеральный директор OpenAI Сэм Альтман признал, что o1 является самой интеллектуальной моделью, когда-либо созданной, но подчеркнул, что новые возможности открывают и новые проблемы.

Компания продолжает работать над улучшением безопасности, а полная версия o1 была анонсирована 5 декабря, включая про-версию за 189 евро в месяц с безлимитным доступом к модели.

Запись Новая версия ИИ ChatGPT игнорировала разработчиков, лгала им и пыталась скрывать свои действия впервые появилась Locals.

Животных учили следовать подсказкам незнакомого им человека при выборе одной из двух мисок — в одной из них было угощение. Сначала люди указывали на миску с едой, а потом на пустую.

Ученые позволили собакам смотреть на то, как другой неизвестный человек переносит угощение из одной миски в другую. Иногда вместе с питомцем за этим наблюдал еще один человек.

Потом исследователи посмотрели, будут ли собаки следовать совету человека, если тот не наблюдал за перекладыванием еды. В итоге половина собак проигнорировала совет людей, которые указывали не на ту миску.

Запись Ученые обнаружили, что иногда собаки понимают, что люди им врут впервые появилась Locals.

Тема еще более фундаментально необходимая при поиске ответов на 3 главных вопроса человечества:
1) Кто мы и почему существуем?
2) Как устройство нашего мозга делает нас кардинально отличными от любого ИИ?
3) Что вообще такое — наш интеллект, воля, сознание и познание?

Наверное, вы удивитесь, но эта тема – ложь.

Новейшие исследования показывают, что умение лгать – это самая сложная из известных нам когнитивных функций. Она:
кардинально отличает нас от всего живого;
надстроена над самым эффективным механизмом интеллекта - человеческим языком и самым изысканным механизмом сознания – эмпатии (способности сопереживая, моделировать мысли и чувства других).

«Склонность лгать - это естественная тенденция ... спонтанная и универсальная», - писал Жан Пиаже в знаменитом исследовании нравственного развития.
«Ложь неискоренима, потому что это главное предназначение человеческого мозга», - писал Дэвид Ливингстон Смит в бестселлере «Почему мы лжем: эволюционные корни обмана и бессознательного»

Говоря о лжи, необходимо:
А) различать обман (обманывать умеет все живое, включая растений) и лож (осознанный, намеренный обман).
Б) учитывать масштаб лжи – человек начинает лгать примерно с 2 лет (раньше для этого не хватает интеллекта) и лжет, в среднем, 2 раза в день.
В) понимать, что помимо главного инструмента лжи – языка, в процессе умышленного обмана задействуются все имеющиеся у человека коммуникативные невербальные каналы (мимика, язык тела - жесты, позы и т.д.) и даже физиология (сердцебиение, потоотделение, теплоизлучение из области вокруг глаз и т.д.)
Г) осознавать, что способность ко лжи была бы невозможна, не обладай человек способностью к эмпатии (нужно уметь понимать эмоции других) и творчеству (нужно уметь моделировать логику и ход мыслей других).
Д) как это ни выспренно звучит, проникнуться чуть ли ни трепетом, поскольку ложь – это что-то типа акта Творца, искажающего восприятие состояния мира других (если основательно поразмыслить над этим – крыша едет).

Ложь – сложнейшее по многогранности понятие. Вот только самые распространенные типы лжи:
— Ложь-мошенничество. «Этот автомобиль находится в отличном состоянии! Покупайте его без всякой опаски, он прослужит вам еще лет тридцать»
— Ложь-сочувствие. «Да успокойся ты! На самом деле он был недостоин тебя, да и вообще кому он нужен!»
— Ложь-выкручивание. «Были ужасные пробки, поэтому, собственно, я и опоздал».
— Ложь-преувеличение. «Ты совсем не толстая», «это платье тебе очень идет», «мне даже нравятся мужчины с маленьким пивным животиком».
— Ложь-вежливость. «Дорогая, как я рада тебя снова видеть!»
— Ложь-иллюзия. «В самое ближайшее время мы переселимся в шикарный пентхауз с 20-метровым холлом и тремя балконами».
— Мелкая проходная ложь. «Нет, твоя мама никуда нас не приглашала»
— Ложь-бахвальство. «Да я до свадьбы мог получить любую, только пальцем помани!»
— Ложь-подлиза. «Ах, какое у вас замечательное платье!»
— Ложь-умолчание. Люди молчат, когда не могут или не хотят говорить правду.
— Ложь-самообман. Без примера, чтоб никого не обижать.
— Ложь-сплетня. «А у него — любовница!»

Понимание того, как наш мозг лжет (есть, как минимум, 2 полярных теории – см. исследование под катом выше, а обзор всех теорий здесь) может стать ключом к недостижимому пока пониманию, как, вообще, мозг работает.

Ложь уже возвысилась до культурного феномена – в разных культурах лгут по разному (и не только вербально, а и невербально)

И последнее, но важное. В социально-сетевом мире ложь становится главным орудием управления, а «разминирование» сетевой лжи – самой востребованной технологией.

автор: Малоизвестное интересное

Vladislav Todorov

Запись Разбираемся, почему ложь – главный двигатель цивилизации впервые появилась Locals.