Может ли робот придумать шутку? Ведь шутка — это парадокс, нарушение жестких требований логики, по которым живет алгоритм. С другой стороны, анекдоты имеют свои законы и структуру, а значит, нейросеть может им научиться.
Чтобы это доказать, сотрудники Университета ИТМО создали сайт, где самый продвинутый в мире алгоритм для генерации текста GPT-3 рассказывает шутки. За основу авторы выбрали классический анекдот «заходит в бар человек и заказывает…». У него есть четкая схема и тысячи различных вариаций, что как раз удобно нейросети.
Пользователь может задать три параметра: кто заходит в бар, как он это делает и что при этом заказывает. Всего есть более 300 комбинаций. После этого нейросеть рассказывает историю на основе выбранного сочетания.
«В отличие от других нейросетей, которые заточены под какие-то конкретные задачи, GPT-3 способна решать гораздо более широкий круг задач просто путем небольшой перетренировки на конкретных примерах. Она натренирована на практически всем интернете, на всех языках, — рассказал профессор лаборатории машинного обучения Университета ИТМО Александр Фарсеев. — Она по сути запомнила весь интернет. И созданные ею фразы являются фрагментами высказываний, которые когда-либо кто-то использовал в таком или в другом контексте. Также в ее “базе” есть и анекдоты, которые рассказывали в сети».
Создатели признают, что шутки не всегда получаются идеальными. Все же генерация анекдотов — не самая типичная задача для машинного обучения. Однако главное в эксперименте — продемонстрировать реальные возможности современных нейросетей.
«Это забавный эксперимент — чтобы продемонстрировать реальные возможности GPT-3, мы намеренно не редактировали сгенерированные нейросетью результаты. Это raw data и никакого симбиоза с человеком. С такими анекдотами нейросеть вряд ли поедет в standup-тур, но точно сможет рассмешить "коллег по цеху" — например, Алису или Siri», — комментирует заместитель руководителя отдела имиджевым мероприятий ИТМО Александр Гостев.
Напомним, ранее ученые Университета ИТМО вместе с коллегами Швеции, Италии и Франции создали модель, вводящую категорию субъективности при анализе текста алгоритмом.
Университет ИТМО получил доступ к GPT-3 в начале февраля 2021 года, когда проект сотрудника лаборатории машинного обучения, профессора Александра Фарсеева SoMin.ai стал официальным партнером компании OpenAI, основанной Илоном Маском. Доступ к GPT-3 имеет ограниченное число компаний и университетов.