• Курс
• Материалы курса

Автоматическая обработка естественного языка

Материалы для семинаров:

1. Лингвистический автомат
   Вопросы:
   1. Архитектура лингвистического автомата.
   2. Принципы функционирования модуля машинного перевода.
   3. Устройство обучающего лингвистического автомата.
   4. Два подхода к описанию обучающего лингвистического автомата.
   5. Лингвистический автомат и человеко-машинный обучающий диалог.
      
   Литература:
   • Пиотровский Р.Г. Лингвистический автомат (в исследовании и непрерывном обучении): 2-е дополненное и исправленное издание. - СПб.: Издательство РГПУ им. А. И. Герцена, 2008. - Главы 6 и 7.
   • Пиотровская К.Р. Обучающий лингвистический автомат. Учебное пособие к спецкурсу «Основы квантитативной лингводидактики» - СПб.: Изд-во ИНТЕРЛАЙН, 2002. – С. 5-11.
     
2. Фреймы в системах АПТ
   Вопросы:
   
   1. Фреймы в системах машинного перевода
   2. Фреймы и семантика понимания
   3. Концептуальный подход к обработке языка
   4. Теория концептуальной зависимости
   5. Элементы теория концептуальной зависимости: роли, правила, действия, состояния
   Литература:
   
   • Пиотровский Р.Г. Новые горизонты машинного перевода // НТИ/2, 2002, №1
   • Филлмор Ч. Фреймы и семантика понимания // Новое в зарубежной лингвистике. Вып. XXIII. Когнитивные аспекты языка: Пер. с англ. — М.: Прогресс, 1988. С. 52-93.
   • Шенк Р. Обработка концептуальной информации. Пер. с англ. — М.: Энергия, 1980. — С. 7-68.
3. Переводческая память
4. Конечные преобразователи (КП)
   Вопросы:
   1. Устройство конечного преобразователя.
   2. КП для морфологической обработки.
   3. Орфографические правила в КП.
   4. Лексикон и правила в КП, стеммер Портера.
   5. Выделение слов и предложений (токенизация).
   6. Коррекция орфографии на примере алгоритма минимального расстояния.
   Литература:
   • Daniel Jurafsky and  James H. Martin. Speech and Language processing: An Introduction to Natural Language Processing, Computational Linguistics, and Speech Recognition. - Ch. 3.4-3.12 [ pdf ]
5. Информационный поиск
   Вопросы:
   1. Определение лексикона терминов.
   2. Словопозиции с координатами и фразовые запросы.
   Литература:
   • Маннинг, К. Введение в информационный поиск: пер. с англ // Кристофер Д. Маннинг, Прабхакар Рагхаван, Хайнрих Шютце. — М.: ООО «И.Д. Вильямс», 2011. — Глава 2.
6. Криптография
   Вопросы:
   • История русской тайнописи
   • Шифр "Магический квадрат"
   • Метод Юлия Цезаря
   • Квадрат Полибия
   • Метод Гронсфельда
   • Метод Порта
   • Симметричный алгоритм DES
   • Ассиметричный алгоритм RSA
7. Системы автоматического синтеза речи
   • Terrence J. Sejnowski and Charles R. Rosenberg. NETtalk: a parallel network that learns to read aloud.
   • Таггирование текста для TTS
8. Искусственные нейронные сети для обработки естественного языка
   Вопросы:
   
   1. Семантико-синтаксическое представление информации с помощью простых рекуррентных сетей.
   2. Автоматическая рубрикация документов с использованием самооргани-зующихся карт Кохонена. Формализмы WebSOM и TopSOM.
   3. Автоматическая обработка ЕЯ с использованием субсимвольных нейронных сетей.
   Литература:
   • Stolcke, A. Learning Feature-based Semantics with Simple Recurrent Networks / Andreas Stolcke. — ICSI Technical Report tr-90-015, April 1990.
   • Browsing digital libraries with the aid of self-organizing maps / K. Lagus, S. Kaski, T. Honkela, T. Kohonen // Proceedings of the Fifth International World Wide Web Conference WWW5, May 6–10, Paris, France, volume Poster Proceed-ings, 1996. — P. 71–79.
   • Плешко, В.В. TopSOM: визуализация информационных массивов с применением самоорганизующихся тематических карт / В.В. Плешко, А.Е. Ермаков, Г.В. Липинский // Информационные технологии. — 2001. — № 8. — С. 8–11.
   • Miikkulainen, R. Natural Language Processing with Subsymbolic Neural Networks / Risto Mikkulainen // A. Browne (editor), Neural Network Perspectives on Cognition and Adaptive Robotics. Institute of Physics Publishing, 1997.

Дополнительные материалы:

1. Семинар: Natural Language Processing
   http://mathlingvo.ru/nlpseminar
   
   
2. Видео-курс Hands-on Natural Language Processing for Information Access Applications (Horacio Saggion, Department of Molecular Biology and Biotechnology, University of Sheffield) // RuSSIR'2008
   http://videolectures.net/russir08_saggion_nlpiaa/