Фанат Minecraft построил в игре сооружение, которое позволяет запускать и использовать языковую модель ИИ наподобие ChatGPT. Полное описание и все необходимые файлы он выложил на GitHub.
Модель CraftGPT имеет около 5 млн параметров, что в 23 раза меньше, чем у первой версии GPT, и в 175 тыс. раз меньше, чем у GPT-3. Однако на практике она работает ещё хуже и не способна реализовать всю мощность своих параметров. По словам автора, CraftPGT часто даёт неверные ответы или вовсе отклоняется от темы.
Обучение ИИ осуществлялось с помощью Python и набора данных TinyChat. Работает CraftGPT крайне медленно — даже на высокопроизводительном сервере с увеличенным в 40 тыс. раз тикрейтом на простейший ответ требуется примерно два часа. Если же не увеличивать тикрейт, выполнение одной операции заняло бы десяток лет.
