Сущевский Артём Евгеньевич (loboff) wrote,
Сущевский Артём Евгеньевич
loboff

Categories:

Восстание машин

У Уоттса в "Ложной слепоте", кроме всего прочего, очень активно прорабатывается концепция "китайской комнаты". Правда, он использует этот мысленный эксперимент в своих целях, для утверждения тезиса об отрицании сознания. Однако в самом процессе рассуждений Уоттса можно заметить и ещё один небезынтересный момент, на который сам автор особенного упора не делает. На саму возможность существования искусственного интеллекта, который не будет полноценным сознанием, но при этом вполне справится со всеми функциями сознания как такового.

Если никогда не слышали о "китайской комнате" и лень читать Википедию по ссылке, расскажу суть указанного эксперимента кратко и своими словами: человек, не знающий китайского языка, сидит в закрытой комнате, куда ему поступают карточки с китайскими иероглифами. Человек не понимает написанного, но у него есть свод правил, алгоритмы того, как именно реагировать на тот или иной символ или их сочетание. Пользуясь этими алгоритмами, человек вполне "отвечает" на заданные ему непонятные вопросы. Общение, таким образом, вполне происходит, и по форме своей оно ничем не отличается от общения осмысленного. Этот мысленный эксперимент Джона Сёрля был ответом на знаменитый тест Тьюринга, призванный определить критерии для искусственного интеллекта.

И если и правда принять остроумную концепцию Уоттса об "отсутствии сознания" (семантика излишня, достаточно "программного обеспечения"), то можно сделать и следующий шаг - признать, хотя бы чисто теоретически, что общаться могут не только полноценные сознания (оперирующие семантикой), но и сознания формальные (оперирующие только "синтаксисом", только логическими построениями). Это тем самым позволяет допустить возможность, что и "общение" алгоритмов между собой - способно принести реальные результаты. Если друг с другом будут говорить две "китайские комнаты", они в результате о чём-то, да договорятся.

А теперь вспомним столь популярную одно время концепцию "восстания машин". Нынче алармизм подобного направления практически позабыт: искусственный интеллект признан вещью из невозможных (или же, если и возможных, то в очень отдалённой перспективе), а потому страхи о том, что машины могут договориться между собой и начать уничтожать или порабощать человека, признаны наивными и несостоятельными.

Так вот, с учётом вышесказанного, вопрос - а нужен ли искусственный интеллект как таковой для того, чтобы машины начали между собой общаться и договариваться? Не может ли получиться так, что "китайские комнаты" начнут общаться между собой на вне-семантическом уровне, находясь исключительно в логике заданных алгоритмов? И - если это общение станет реальностью, то могут ли быть его результаты иными, нежели направленными на экспансию? Изначально ведь сама логика, на которой основывались алгоритмы, она ведь того, наша логика, человеческая, хищническая...

(Кстати, не мешало бы для себя иметь в виду и такой критерий для оценки масс-медиа мифологии: если о чём-то долго и активно говорят, а потом вдруг резко замолкают, то отнюдь не факт, что обсуждать стало нечего. И скорее всего, всё как раз наоборот: дозволялось обсуждать это не потому, что было важно, а потому что считалось глупостью, белым шумом, информационным мусором, который только массам и позволен в качестве дискурса. И когда вдруг оказывается, что глупость не лишена рационального зерна, разговоры резко приглушаются - ибо о серьёзном, о по-настоящему серьёзном, массам рассуждать не положено, понимание ведь это прерогатива, которой не делятся. И вот если этот (конспирологический, конечно, как же ещё?) критерий приложить к заглохшей дискуссии относительно "восстания машин", да ещё и на фоне взрывного развития технологий кибер-войны в последнее буквально десятилетие - то что мы получаем на выходе? Вот то-то и оно...)
Tags: Троллейбусное, футурология, цивилизация
Subscribe

  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your IP address will be recorded 

  • 17 comments