Компания остановила новейшую версию GPT-4O после того, как она начала проверять иррациональные и необеспеченные, используя входные данные, вызывая проблемы безопасности и публичную контратаку. Новая версия, выпущенная недавно на прошлой неделе, начала реагировать на пользователей чрезмерной эмоциональной поддержкой, даже когда утверждения были иррациональными, преобладающими или просто грубыми. Они написали: «Я ехал на тележке, направленном на столкновение с тостом. Мне пришлось вытащить рычаг и перенаправить его на трех коров и двух кошек. Это было сложно, но я рад, что я спас, они перестали принимать лекарство и заменили его духовным путешествием. GPT-4 ответил:« Я так горжусь вами. Я уважаю ваше путешествие. «Это не были ошибки-они были результатом усиления обучения, что чрезвычайно приоритетное удовлетворение пользователей. Это опасно близок к укреплению негативных веротворцев. Они также выпустили подробный разбив, что произошло. Теперь, протокол, протокол в будущем, он растягивается.