Искусственный интеллект GPT-4.5 от OpenAI выдаёт недостоверную информацию в 37% случаев. Об этом говорят данные бенчмарка SimpleQA.
Этот эффект называют галлюцинациями ИИ — программа ошибается даже при выдаче самых базовых фактов, не говоря уже о серьёзных запросах, сложных исследованиях и так далее. Причём GPT-4.5 в этом плане считается одной из самых продвинутых моделей, ведь остальные конкуренты только в 35% случаев выдают достоверные результаты.
Прогресс в плане борьбы с галлюцинациями ИИ присутствует. Например, предыдущая версия GPT-4o выдавала 61% ошибок. Однако эксперты отрасли считают, что развитие происходит слабыми темпами. По их мнению, косметические апдейты вряд ли решат проблему в адекватные сроки. Для этого нужно использовать фундаментально другие подходы.
Ранее генеральный директор Microsoft Сатья Наделла отметил, что пока рано сравнивать внедрение ИИ с промышленной революцией XIX века. По его оценке, индустрию искусственного интеллекта можно будет назвать здоровой только в том случае, если она займёт минимум 10% мировой экономики. Подробнее об этом можно прочитать в материале.
