Группа исследователей из Цюрихского университета создала ботов с искусственным интеллектом для reddit, которые работали в разделе психологической помощи r/changemymind. Об этом сообщил портал The Verge.
ИИ выдавал себя как за жертв насилия, так и за психологов. В общей сложности боты оставили более 1,7 тыс. комментариев, а их карма превысила 10 тыс., после чего они были раскрыты. Для функционирования ИИ использовались алгоритмы GPT-4o, Claude 3.5 Sonnet и Llama 3.1-405B, они анализировали все сообщения обычных пользователей, чтобы подобрать максимально подходящий для них ответ и эффективно их убеждать.
Эксперимент показал, что ИИ намного эффективнее приводит нужные человеку аргументы, чем профессиональные психологи. Это позволяет использовать подобных ботов не только во благо, но и во вред. Например, для манипуляции общественным мнением по чувствительным в обществе вопросам. Как только об эксперименте стало, администрация reddit забанила как самих ботов, так и учётные записи всех учёных, которые проводили эксперимент. главный юрист reddit Бен Ли назвал эксперимент незаконным и неэтичным. Однако учёные отметили, что внимательно отслеживали все ответы ботов. Все проблемные с точки зрения этики посты, а также сообщения, которые очевидно были написаны не человеком, удалялись вручную.
