Чудеса и трагедии чёрного ящика   ::   Губерман Игорь

Есть предположение: наверно, все-таки создатели узнающих машин думали о возможных принципах устройства мозга, подсознательно, незаметно оглядываясь на свое понимание, мысленную модель его работы. Вроде бы нет, говорят они, более того – мы нашли прекрасные принципы опознания, и в случае, если окажется, что мозг работает не так, тем хуже для него, в наших узнаваниях машина делает ничтожно мало ошибок.

Они не кривят душой, но не говорят главного. В программировании машины, ставящей диагноз, участвовали опытнейшие врачи, чьи знания и опыт буквально вкладывались в эту машину. Способная по своей конструкции к решению любых задач, машина практически беспомощна, пока в нее не попадет набор признаков, отобранных узким специалистом в области, куда вступает машина. Десятки, а то и сотни специально отобранных историй болезни надо машине, чтобы научиться узнавать эту болезнь. Признаки отбирает человек, и он же указывает машине, что хорошо и что плохо в ее первых диагностических шагах. Эти чисто человеческие оценки полностью определяют характер и направленность тех знаний, которые машина приобретает. Как мифический Пигмалион, своей любовью вдохнувший душу в созданную им статую, возится человек с машиной. Часть работы он выполняет собственным мозгом, не зная, как он это делает, и потому не умея обучить тому же машину.

Еще очень мало друг друга понимая, психологи, биофизики, физиологи, математики и инженеры все же медленно движутся друг другу навстречу.