Журнал Компьютерра -729   ::   Компьютерра

Если

в будущем способность интеллектуальных

систем обучаться станет критически

важной характеристикой, дающей

значительное конкурентное преимущество,

то с большой вероятностью обладатели

этих систем введут те или иные

ограничения и запреты на доступ к ним,

на их приобретение и т. д. А тем

субъектам, кто попытается нелегально

обойти эти ограничения, время от времени

будут предлагаться системы с "троянской

начинкой" - но уже в отношении

способности учиться. Это могут быть

системы, чьи способности к обучению ниже

ожидаемых, обучающиеся не совсем тому

или даже совсем не тому, что нужно

пользователю, и т. д.

Обучение и системы

искусственного интеллекта



Предварительно

подчеркнем: говорить о противодействии

обучению технической системы,

"межкомпьютерном" троянском обучении и

т. д. имеет практический смысл, только

если реализуемы сами эффективные

обучающиеся и обучающие компьютерные

системы (споры же об их реализуемости

ведутся ожесточенные). Любое троянское

обучение использует особенности "просто"

обучения (обучения "без злого умысла"),

паразитируя на нем, и возможно лишь на

его основе. После этой оговорки

продолжим рассуждение о потенциальных

направлениях развития "умных"

технических систем.