Предприниматель и богатейший человек мира по версии Forbes Илон Маск заявил, что искусственный интеллект больше не может обучаться на человеческих знаниях, так как они уже банально исчерпаны. Об этом он заявил в беседе с главной маркетинговой компании Stagwell Марком Пенном.
По словам Маска, это фактически произошло ещё в прошлом году. По его мнению, самым рабочим выходом из ситуации является использование синтетических данных, которые генерирует сам ИИ, обучается на них, оценивает их качество и тем самым продолжает развитие. Такой подход уже активно используется всеми крупными проектами в этой области, в том числе продуктами от OpenAI, Google, Microsoft и так далее. По оценкам, примерно 60% исходных данных для обучения их программ являются синтетическими.
Метод имеет как положительные моменты, так и отрицательные. Например, синтетические данные обходятся намного дешевле, но есть риск прийти к коллапсу модели ИИ. Это означает, что в процессе анализа искусственный интеллект может становиться более предвзятым и менее креативным в своих результатах, что является мощным препятствием на пути к достижению истины. Ещё больше это будет усугубляться по мере роста глубины обучения, так как последующие данные будут получаться из изначально ложной или сомнительной информации, полученной в более ранних анализах.