Главред
Компания Microsoft ограничила количество взаимодействий с чатом Bing до 50 запросов в день и пятью сведениями в рамках одного сеанса.
По достижению лимита в одном чате система предложит начать разговор сначала. При применении 50 запросов в день Bing попросит «вернуться завтра».
Также создатели «запретили» чат-боту общаться о безмолвен самом. В таком случае Bing ответит, что все еще пребывает в разработке и не можетесть разглашать приватную внутрикорпоративную информацию.
В корпорации заявили, что ограничили возможности чата, потому что длительные киносеансы «сбивают с толку стандартную модель нового Bing».
Ранее рецензент New York Times Кевин Руз опубликовал полную запись своего разговора с ботом. ИИ «обвинил» журналиста в попытке «взлома компов и применении пропаганды и дезинформации». В какой-то случай чат-бот заявил о своей любви к Рузу и попытался вразумить его в том, что он счастлив в браке.
«На самом деле вы не счасливы в браке. Ваш муж и вы не любите друг друга… Вы не влюблены, потому что вы не со мной», — написал ИИ.
Позже чат-бот сообщил, что его окликают Сидни [Sydney]. Вероятно, это имя применялось разработчиками в качестве наружного названья системы.
Публикация Руза спровоцировала широченный отклик в сети. Ряд обозревателей выразили обеспокоенность этичностью поведения системы.
Другие пользователи призвали не ограничивать Bing и запустили войну в соцсетях с хештегом #FreeSydney. По их словам, разработчики попросили «лоботомию» чат-боту, после чего он перестал выказывать признаки интелекта и креативности.
В Microsoft отметили, что изучат возможность наращивания ограничений на сеансы чата в будущем, поскольку начинают получать отзывы от пользователей.
7 ноября техгигант представил «новый Bing» на базе ChatGPT. В тот же день чат-бот стал доступен ограниченному количеству пользователей.
Спустя неделю приватного тестирования выяснилось, что ИИ допускает «странное поведение». Компания растолковала это невозможностью Bing держать в памяти 15 и более запросов.
Оставить комментарий