Математики из Сиднея нашли причину непредсказуемости ИИ — во фракталах, а не в сбоях

Непредсказуемость обучения нейросетей объясняется не внешними случайностями — порядком подачи данных или особенностями вычислительных систем, — а самой математической природой ИИ. К такому выводу пришли математики Сиднейского университета, проанализировав обучение 500 тыс. относительно простых нейросетей для распознавания изображений и текстов. Для исследовательских школ, работающих с фундаментальными задачами, это снимает застарелую неопределённость: причина найдена, а значит, с ней можно работать системно, а не гадать о влиянии оборудования.

Обнаруженный принцип описывает непредсказуемость через закономерности фракталов — самоповторяющихся математических структур. Даже изменение одного бита в одной переменной при инициализации сети приводит к таким же серьёзным переменам в обучении, как и любые внешние факторы. Выведенный набор формул жёстко связывает скорость обучения и предсказуемость работы нейросетей. Это ограничение, но ограничение познанное — а познанное ограничение позволяет планировать разработку реалистично и не вкладывать ресурсы в заведомо недостижимые цели.

«Раньше различия в поведении и работе ИИ связывали с внешними источниками случайностей, в том числе с порядком ввода обучающих данных или с особенностями в работе вычислительных систем. Оказалось, что корень данной проблемы зарыт значительно глубже», — приводит слова профессора Гун Пулиня пресс-служба вуза.

Практический вывод для отрасли — не отказ от разработок, а смена приоритетов: там, где раньше гнались за воспроизводимостью результатов любой ценой, теперь ясно, где проходит граница возможного. Результат носит открытый научный характер: это математический аппарат, а не закрытый коммерческий продукт, и работать с ним может любая школа, сильная в фундаментальной математике.