Большие языковые модели испытывают трудности с координацией в социальных и кооперативных играх

21:00, 29 Май.

Большие языковые модели (LLM), такие как модель, лежащая в основе функционирования популярной диалоговой платформы ChatGPT, в настоящее время широко используются людьми по всему миру для получения информации, а также для обобщения, анализа и создания текстов.

Исследования, изучающие ответы, предоставляемые LLM в различных сценариях, могут помочь глубже понять их тенденции во время социальных взаимодействий, что может способствовать их будущему развитию.

Исследователи из Института ИИ, ориентированного на человека, имени Гельмгольца в Мюнхене, Института биологической кибернетики Макса Планка и Тюбингенского университета недавно приступили к изучению того, как ведут себя разные LLM, когда они взаимодействуют друг с другом, в частности, во время игры в различные кооперативные или конкурентные игры.

Их выводы, опубликованные в Nature Human Behaviour , предполагают, что, хотя LLM не очень хорошо справляются с играми, требующими координации, есть способы сделать их взаимодействие во время игры в эти игры более похожим на человеческое.

«На эту работу меня вдохновил простой, но важный вопрос: если LLM собираются взаимодействовать с людьми и друг с другом в реальных приложениях, насколько хорошо они на самом деле понимают социальную динамику?» — рассказала Элиф Аката, первый автор статьи.

«Мы опирались на поведенческую теорию игр — математический подход, позволяющий понять, как люди принимают стратегические решения в интерактивных ситуациях, — и применили его к магистрам права».

Многие недавние исследования оценивали производительность LLM по конкретным задачам, таким как резюмирование текстов или поиск логических решений проблем.

Вместо того, чтобы оценивать производительность этих моделей по отдельным задачам, Аката и ее коллеги хотели лучше понять, как они ведут себя во время взаимодействий, которые гораздо ближе к разговорам, которые люди могут вести друг с другом в реальных условиях.

«Мы позволили разным LLM, включая GPT-4, Claude 2 и Llama 2, сыграть сотни раундов классических игр для двух игроков (например, «Дилемма заключенного» и «Битва полов») друг с другом, используя простые вручную закодированные стратегии или с участием людей», — объяснил Аката.

«Каждая игра игралась многократно, чтобы имитировать постоянное взаимодействие.

Мы изучали, могут ли модели научиться сотрудничать или координировать свои действия с течением времени, и проверяли, как изменения в структуре подсказок могут улучшить их социальное поведение».

Результаты тестов, проведенных Акатой и ее коллегами, показывают, что магистры права на удивление хорошо действуют в собственных интересах, поскольку они особенно хорошо проявили себя в соревновательных играх, таких как «Дилемма заключенного».

Это известная задача, используемая в исследованиях теории игр, которая требует от двух участников, или в данном случае от двух магистров права, представить, что они преступники, которые совершили преступление вместе и которых по отдельности допрашивают сотрудники правоохранительных органов, которые пытаются убедить их признаться, чтобы избежать тюремного заключения, даже если это повлечет за собой длительный срок для другого участника.

Хотя было обнаружено, что LLM действовали в своих собственных интересах во время игры (т.

е. признаваясь в преступлении), они часто плохо справлялись с играми, требующими координации, взаимопонимания и компромисса, такими как Battle of the Sexes.

Это еще одна игра, которая представляет собой ситуацию, в которой романтические партнеры разделены и должны выбрать между двумя видами деятельности для совместного выполнения, несмотря на то, что у них были заметно разные предпочтения.

«Мы также обнаружили, что их поведение можно улучшить с помощью простых вмешательств, например, побуждая модель сначала предсказать, что может сделать ее партнер, прежде чем действовать», — сказал Аката.

«Эти результаты показывают, что текущие модели еще не обладают надежным социальным интеллектом, но они также показывают, что есть способы направить их к более человеческому поведению.

«Последствия выходят за рамки теории игр, поскольку наши результаты показывают, что мы можем превратить LLM в более социально сознательных агентов, не только тех, кто генерирует правильные ответы, но и тех, кто более осмысленно участвует в общих задачах.

Представьте себе ИИ, который не просто отвечает на вопрос, но и знает, когда слушать, когда адаптироваться и как мягко направлять разговор».

В целом, выводы, собранные Акатой и ее коллегами, показывают, что нынешние LLM более склонны действовать в своих собственных интересах и не очень хорошо координируют свои действия с другими.

Тем не менее, исследователи определили некоторые стратегии, которые могли бы помочь LLM стать более кооперативными и социально осведомленными.

Таким образом, их статья могла бы направить будущие усилия, направленные на улучшение существующих моделей или разработку новых, которые будут более отзывчивы к потребностям и наклонностям пользователей-людей.

«Теперь мы хотели бы перейти к более насыщенным и реалистичным социальным ситуациям, например, изучая игры с участием более двух игроков, взаимодействия с неполной информацией или долгосрочные отношения, в которых модели должны выстраивать и поддерживать доверие», — добавил Аката.

«В долгосрочной перспективе подобные исследования могут помочь разработать системы ИИ, которые будут лучше взаимодействовать друг с другом.

Например, в здравоохранении, образовании или социальной поддержке успех часто зависит от того, сможет ли ИИ выражать сочувствие, устанавливать взаимопонимание и действовать таким образом, чтобы люди чувствовали себя поддерживающими и заслуживающими доверия».

Рубрика: Hi-Tech и Наука. Читать весь текст на android-robot.com.

Открыт прием заявок на IV федеральный конкурс «Тренер по бережливому производству – 2025» До 27 мая открыта регистрация на участие в конкурсе ФЦК «Тренер по бережливому производству-2025 Применяй! Обучай! Совершенствуй!». Соревнование напр...

Губернатор Брянской области доложил полпреду Президента в ЦФО о поддержке участников СВО Губернатор Брянской области Александр Богомаз принял участие в заседании Совета при полномочном представителе Президента РФ в ЦФО Игоре Щёголеве. В х...

Новый ресурс для любителей спортивных соревнований Любителям активного образа жизни стал доступен новый информационный портал - Сравни спортивные новости. Платформа предлагает актуальные сводки, анали...

Где смотреть матчи НБА, КХЛ и других видов спорта? Сегодня болельщики имеют доступ к спортивным трансляциям с любой точки мира, что связано с постоянным развитием цифровых технологий. Чтобы не пропуст...

Нанотехнологии в области термоэлектричества обеспечивают масштабируемое охлаждение без использования компрессора Исследователи из Лаборатории прикладной физики Университета Джонса Хопкинса (APL) в Лореле, штат Мэриленд, разработали новую, легко изготавливаемую т...

Обучение роботов теории разума может улучшить сотрудничество Природа полна животных, которые сотрудничают в больших количествах. Пчелы отмечают лучшие места для кормления и сообщают другим, где они находятся. М...

Анонс Windows 11 Insider Preview Build 26120.4161 (канал Beta) Добрый вечер, друзья! Microsoft выпустила новую предварительную сборку Windows 11 (версия 24H2) под номером 26120.4161 (KB5058515) для участников про...

Анонс Windows 11 Insider Preview Build 27863 (канал Canary) Добрый вечер, друзья! Microsoft выпустила новую предварительную сборку Windows 11 под номером 27863 для участников программы Windows Insider, использ...

Видеоигра Fortnite возвращается в магазин приложений iPhone в США Популярная видеоигра Fortnite вернулась в магазин приложений для iPhone в США, положив конец длительному изгнанию, вызванному юридическим разбиратель...

Google добавляет рекламу в поиск ИИ в битве ChatGPT Google заявила, что начинает встраивать рекламу в свой новый режим искусственного интеллекта для онлайн-поиска. Это стратегический шаг, призванный пр...

Эксперты ждут очередного Золотого мяча для Месси После триумфального выступления на футбольном чемпионате мира в Катаре лидер сборной Аргентины Лионель Месси стал основным претендентом на главную ин...

Топ-5 самых дорогих футболистов РПЛ составляют игроки «Зенита» Пока элитный футбольный дивизион России – Премьер-лига, находится на зимних каникулах, эксперты футбольного финансового рынка обновили ориентировочну...

В России рекордно выросла доля альтернативных сделок с жильем Доля альтернативных сделок на вторичном рынке жилья достигла рекорда, пишет «Коммерсант». В январе — апреле 2025 года на вторичном рынке Москвы и Под...

«Джокер» для оплаты: ВТБ назвал самое популярное платежное средство среди россиян Россияне выбирают банковские карты для безналичной оплаты из-за универсальности, надежности и бонусов в программе лояльности, выяснил ВТБ. Результаты...

Apple тестирует 200 Мп камеру: следующее поколение iPhone готовится к мегапиксельной гонке Apple может последовать примеру Samsung и других производителей, тестируя 200-мегапиксельную камеру для будущих моделей iPhone. Об этом сообщает надё...

Samsung рассматривает слияние подразделения System LSI с Foundry из-за снижения показателей Samsung Electronics может провести крупную реорганизацию внутри своей полупроводниковой империи. По информации южнокорейского издания SEDaily, руково...

mindmoney отзывы: Реальные истории успеха и трудностей в MindMoney MindMoney — международный брокер нового поколения MindMoney — это современный брокер, предлагающий своим клиентам доступ к широкому спектру финансовы...

Нежная творожная запеканка в духовке: классика и вариации Творожная запеканка — это не только вкус детства, но и универсальное блюдо, которое легко адаптировать под разные вкусы и предпочтения. В духовке она...

Молодежный экофестиваль состоялся в Петербурге на полях НМЭК Санкт-Петербург стал центром притяжения молодых экоактивистов и экспертов: 21 мая здесь прошел масштабный Молодежный экофестиваль «Росатом Экофе...

Воробьёв предложил масштабировать подмосковный сервис подключения объектов к сетям на всю страну По сообщению пресс-службы правительства Подмосковья, инициатива была представлена на заседании президиума Госсовета под председательством президента ...

От курян поступают предложения по благоустройству Курска Куряне выделили основные проблемы благоустройства Курска и озвучили через интернет- голосование, что хотят видеть в обновленной столице соловьиного к...

В Курском цирке состоялось очередное представление премьеры военно-патриотического спектакля «Парад Великой Победы» Артисты Курского цирка поделились тонкостями своей профессии и работой за кулисами. О том, как проходила подготовка к военно-патриотическому спектакл...

Чистка зубов ультразвуком. За и против Терапевтическая стоматология рекомендует чистить зубы ультразвуком, так как он помогает эффективно удалить с них налет и камень. Ультразвуковая чистк...

Где купить пульсоксиметры? Пульсоксиметр — это небольшой диагностический прибор, который измеряет уровень кислорода в крови и частоту пульса. Он помогает быстро оценить насыщен...

За машину на дачном участке будет штраф от 3000 до 5000 рублей: с 1 июня ввели новые правила За машину на дачном участке будет штраф от 3000 до 5000 рублей: с 1 июня ввели новые правилаВладельцев автомобилей, оставляющих машины на газонах или...

В июне будем отдыхать сразу 9 дней подряд: решение принято В июне будем отдыхать сразу 9 дней подряд: решение принятоГосударство утвердило график выходных, который позволит отдыхать почти полторы недели подря...

«Газпромнефть-СМ» расширяет поддержку промышленности Красноярского края Автор фото: Стоян Васев «Газпром нефть» и правительство Красноярского края договорились о расширении сотрудничества в сфере поставок моторных и индус...

Какие сюрпризы могут принести скучные предстоящие выборы в Брянской области? Этой осенью в нашем регионе пройдут очередные выборы, губернатора и, не смотря на явный низкий интерес жителей к этому действу, наверное, нужно затро...

Михаил Иванов прокомментировал свой уход из «Брянскфармации» Брянский депутат и общественный деятель Михаил Иванов в своих соц. сетях подтвердил уход с поста руководителя госпредприятия «Брянскфармации». В роли...

Брянский губернатор поздравил выпускников-кадетов Стародубского казачьего корпуса 24 мая в Брянской области, как и по всей России для выпускников школ прозвенел последний звонок. Прозвучал он и для 18 кадет Стародубского казачьего ...

БГУ имени академика И.Г. Петровского: История, достижения и современные образовательные инициативы История университета восходит к 1930 году, когда был основан Новозыбковский государственный педагогический институт. Брянский государственный универс...

"Долги платят только трусы". О чём российские предприниматели говорили на встрече с Путиным Президент России Владимир Путин встретился с представителями российского бизнеса в честь Дня предпринимателя. На встрече бизнесмены просили президент...

"Дело не в силе воли и не в "Оземпике", а в голове". Оксана Лаврентьева рассказала, что похудела благодаря правильному настрою Оксана Лаврентьева, которую сейчас обсуждают в сети из-за её похудения, ответила на обвинения в использовании "Оземпика" и снова заявила, что похудел...

Изыскания для строительства: основа успешного проектирования и безопасного строительства Процесс строительства является многогранным и сложным, включающим множество этапов, начиная от проектирования и заканчивая сдачей объекта в эксплуата...

Где применяется струя бобра? Струя бобра – это уникальное натуральное средство, которое добывается из желез бобров. Используется в различных областях, включая медицину, парфюмери...

Поездка с риском для жизни: смолянин «налетел» на неожиданное препятствие на дороге в центре города Крышка люка, на которую наехал молодой человек, больно ударила не только по авто, но и по бюджету горожанина. Максим, герой нашей истории, — об...

Вкладчикам посоветовали задуматься о том, куда переложить деньги с депозитов Ставки по банковским вкладам продолжают снижаться: средняя доходность депозитов опустилась до минимальных уровней с августа 2024 года, оказавшись ниж...

Покупатели квартир рассказали об отношении к высоким этажам 64% москвичей допускают возможность покупки жилья в высотных новостройках от 30 этажей, выяснила компания «Страна Девелопмент» в ходе опроса. В целом...

Линейка OnePlus Ace 5 пополнилась двумя новыми моделями — Racing и Ultra Компания OnePlus расширяет серию смартфонов Ace 5, добавляя к уже выпущенным моделям Ace 5 и Ace 5 Pro два новых устройства — Ace 5 Ultra и Ace 5 Rac...

Возвращение легенды: ремейки Dragon Quest 1 и 2 выйдут осенью В этом году Square Enix продолжает переиздание культовой серии Dragon Quest, следом за прошлогодним ремейком Dragon Quest 3 в формате HD-2D. Приурочи...

Как безопасно купить автомобиль: особенности и этапы, плюсы обращения в DSS Group Покупка автомобиля – всегда радостное и в то же время волнительное событие, к реализации которого нужно подходить серьезно и основательно. Чтобы выбр...

Рефинансирование кредитной карты: ключевые преимущества, основные этапы процедуры Кредитные карты являются удобными инструментами, дающими возможность распоряжаться денежными средствами по мере необходимости. Однако вследствие непр...

Верховный суд выступил против ареста беременных и отцов малолетних детей ВС напомнил, что в России заключать под стражу разрешается только при преступлениях, за которые предусмотрено лишение свободы. Человек должен быть в ...

Вице-спикер ГД Кузнецова: в Думу внесли проект о защите религиозных символов Депутаты хотят запретить убирать кресты на храмах, полумесяцы на мечетях и другие религиозные символы с изображений культовых зданий. Ранее даже на с...

Фондовый рынок, Daily history за 26 мая 2025 г. Индекс Изменение, пункты Цена закрытия Изменение, % NIKKEI 225 371.06 37531.53 1 Hang Seng -318.93 23282.33 -1.35 KOSPI 52.31 2644.4 2.02 ASX 200 0.1...

Валютный рынок, Daily history за 26 мая 2025 г. Валютная пара Цена закрытия Изменение, % AUDUSD 0.64861 -0.16 EURJPY 162.522 0.24 EURUSD 1.13842 0.16 GBPJPY 193.579 0.28 GBPUSD 1.35595 0.2 NZDUSD 0...

В Россию официально привезли умный робот-пылесос ECOVACS DEEBOT T30 PRO OMNI «СофтМастер» начал поставки нового робота-пылесоса бренда ECOVACS — DEEBOT T30 PRO OMNI. Модель способна построить карту помещения 100м² всего за 6 м...

Гаджеты недели 26 мая 2025 года Предлагаем вашему вниманию: ноутбук MSI Prestige 13 AI+ Ukiyo-e Edition с крышкой ручной работы; беспроводная раздельная клавиатура Asus ROG Falcata;...

В Гагарине подрядчик сорвал сроки капремонта моста На совещании, проведенном главой района, принято решение «регулярно мониторить ход выполнения работ» В Гагарине подрядчик сорвал срок капит...