Семинар по лингвистике и искусственному интеллекту
В Институте филологии и межкультурной коммуникации состоялся очередной научный семинар, совместно организованный научно-исследовательскими лабораториями «Лингвистика и искусственный интеллект» и «Текстовая аналитика»
31 мая 2024 года в Институте филологии и межкультурной коммуникации состоялся очередной научный семинар, совместно организованный научно-исследовательскими лабораториями «Лингвистика и искусственный интеллект» и «Текстовая аналитика».
На семинаре обсуждалась степень интерпретируемости результатов работы алгоритмов машинного обучения искусственного интеллекта (далее – ИИ) в больших языковых моделях.
В рамках семинара выступил Олег Сериков, научный сотрудник Центра цифровых гуманитарных исследований Национального исследовательского университета «Высшая школа экономики». В своём докладе на тему «Интерпретация представления знаний в нейросетевых моделях автоматической обработки естественного языка» он представил результаты своих исследований, которые были посвящены изучению возможностей применения нейросетей для анализа морфологических и лексических аспектов языка.
Во время дискуссии слушатели обратили внимание на эффект «чёрного ящика», при котором наблюдатель не имеет возможности полностью понять, как именно нейросеть принимает решения, и может только следить за результатами её работы, ограничившись предположениями о том, какие факторы повлияли на эти результаты.
Также обсуждался эффект так называемого «катастрофического забывания» (Catastrophic forgetting), при котором новые знания в нейронных сетях перезаписываются «поверх» старых, а также упомянули явление, при котором искусственный интеллект по-разному отвечает на один и тот же вопрос в зависимости от языка, на текстовых данных которого была предобучена модель ИИ. Эти и другие факторы затрудняют научную верификацию результатов экспериментов с нейронными сетями и их применение.
Мы надеемся, что семинар станет началом серии подобных мероприятий, посвящённых использованию ИИ в различных областях науки и техники. Это позволит объединить усилия специалистов из разных научных коллективов и инициировать новые проекты, направленные на развитие технологий искусственного интеллекта.
Источник: Центр сопровождения научной и международной деятельности
