Одной из возможностей ИИ является получение новых знаний. Например, можно обучить нейронную сеть, а затем, вскрыв её внутренние связи, получить совершенно новую информацию об объекте. Именно таким образом мы получили новые данные (размер квантовой частицы) о механизме в химической связи и сверхпроводимости.

А есть публикация по этой теме (вскрытие нейронной сети)? Мне почему-то всегда казалось, что НС — это черный ящик. Работать работает, но связать ее работу с закономерностями в реальности маловозможно.

Сеть ведь можно измерить и изучить — посмотреть, какие параметры внутри — в этом смысл модели — разобрать ее по «винтикам».

Все можно изучить. Но — чтобы быть ближе к своей тематике — например, я прогнозирую зависимость динамики ВРП от некоторых макроэкономических показателей (величина ставки рефинансирования, объем денежной массы и т.д.).
Если бы я делал это эконометрически (например, с помощью линейных или полиномиальных моделей или моделей, которые к ним сводятся), то я мог бы легко интерпретировать их результаты. Именно коэффициенты уравнения регрессии. И получились бы в худшем случае коэффициенты относительной важности аргументов в определении значения функции. В лучшем случае — более сложные и уже хорошо разобранные в экономике вещи, например, коэффициент эластичности.
Если же я использую НС, то я получаю вложенную нелинейную регрессию. Как использовать коэффициенты этой модели я не представляю. То есть если цель просто спрогнозировать — отлично. Если же что-то понять — то нет.
Например, если у меня n аргументов x_i, то получится что-то типа:
Альбом: Добавленные

где первая формула — линейная регрессия, вторая — нейронная сигмойдная с двумя внутренними слоями.
a_i -, соответственно, коэффициенты регрессии.
как их использовать для интерпретации???

НС похожа на черный ящик, но не является им. Вскрытие упомянуто в описании пакета STAYISTICA 4.0. Есть примеры также и в нашем руководстве ПРАКТИЧЕСКИЙ НЕЙРОКОМПЬЮТИНГ. После того, как сеть обучена, на ее входы подается эталонное возмущение (например, функция Хевисайда). Отклики выходов Вы можете интерпретировать с помощью типовых звеньев (усилительного, апериодического, колебательного, интегрирующего, дифференцирующего, запаздывающего и т.Д… Остается выбрать, какое больше всего подходит по физическому смыслу для выбранной связи. Таким способом мы описали модель инвестора Дж.Сороса на рынке программой с НС УНИКОМПАРТНЕР.