Научно-технический вебинар «Об обучении языковых моделей, основанных на грамматиках связей, без учителя»

18 октября 2022, 15:00 MCK

О вебинаре

  • Спикер

    Николай Михайловский, НТР, Россия

  • Тема

    Научно-технический вебинар «Об обучении языковых моделей, основанных на грамматиках связей, без учителя»

  • Подробнее про вебинар

    Спикер о работе:
    Закон Ципфа хорошо знаком всем, кто занимается вычислительной лингвистикой. Он является проявлением более фундаментальных статистических характеристик текста, которые, видимо, связаны с иерархическим устройством человеческой коммуникации. Из этого следуют фундаментальные же выводы о характеристиках языковых моделей (иерархичность контекстов), которые пока что можно обсуждать в гуманитарном их аспекте.
    Интересно, что многие классические работы по вычислительной лингвистике 90-х годов игнорируют свойства контекстности, и безоглядное использование их результатов приводит к ошибкам. Такие проблемы, например, встречаются, при попытках обучать языковые модели, основанные на грамматиках связей, без учителя.

    Видео: https://youtu.be/-fO-u1mwDRk
    Презентация: https://drive.google.com/file/d/1kXZH5fzOYlcNQGoatImZXKCYJfRyxl4x/view?usp=sharing