Умопомрачительное развитие Интернета, компьютерные технологии и искусственный интеллект — общее место в наши дни. Уже банально говорить о том, как все это влияет на привычные нам торговлю, культуру и даже на то, как мы понимаем собственно человека. Некоторые самые дальние горизонты технологического развития выражены в «сингулярности» — понятии, выдвинутом футурологом Реймондом Курцвайлем. Это некий блистающий мир, в котором уже к концу нынешнего столетия человек настолько срастется с облаками нанокомпьютерного тумана, что тела наши отринут свою форму и мы наконец обретем контроль над вселенной, компьютеризованной до отказа. Или же окажемся полностью в ее власти.

Не нужно быть Курцвайлем, чтобы понимать: развитие искусственного интеллекта, а особенно робототехники, вынуждает нас четче определять, что именно делает нас людьми. Если нас делает людьми хоть что-то. Выдающийся ученый Дэвид Гелернтер в одной своей работе убедительно доказывал, что сознание — таинственный продукт человеческой химии, в котором мы все еще до конца не разобрались, — и те эмоции, что это сознание производит, неотторжимы друг от друга и не могут возникать искусственно или виртуально.

В другой недавней работе Гелернтер переводит эту мысль в понятия еврейской нравственной философии. Рано или поздно, отмечает он, нас может одолеть соблазн даровать «думающим машинам» права, подобные человеческим, — ведь животным их уже предоставляют. Где провести границу? Полезный критерий для Гелернтера — труды Мартина Бубера, разделявшего отношения «Я-Ты», существующие между нами самими и нами и Богом, и отношения «Я-Оно», лишенные подлинного сознания и, следовательно, нравственной ответственности.

Вместе с тем вопрос морали остается. Хорошо это или плохо, но мы и так проводим значительную часть жизни в царстве «Я-Оно» — бредем на ощупь среди техники, среди рационализованных общественных институтов, вроде права или бюрократии, среди природных явлений. Неужто всем этим мирам свойственны особые нравственные или духовные принципы?

Выход предлагал великий ортодоксальный галахист и мыслитель Йосеф Соловейчик (1903-1993). В своей классической работе «Одинокий верующий человек» он говорил о двух вариантах Творения, описанных в Книге Бытия. Согласно одному, человечество — вершина творения, венец великого божественного созидания. Согласно другому, люди — горсти праха, в которых жизнь поддерживается дыханием и притяжением пылинок друг к другу. Оба эти представления, утверждал мыслитель, верны: Бог даровал нам внушительные творческие силы, но также Он вручил нам и конечность, с которой мы ничего не можем поделать.

В следующей статье — «Этика величия и этика скромности» — Соловейчик развивал тезисы своей этики. В человеческой неугомонности проступает Божественный акт созидания — стало быть, скромность человека есть отражение Божественного отступления, в результате которого и появился несовершенный человеческий мир. При таком понимании стремление контролировать окружающий мир легитимно, а дополняет ее наше осознание собственной ограниченности.

В ходе истории опыт и смысл человеческого бытия менялись неоднократно: вспомните изобретение письменности или начало оседлых общин. Вполне возможно, они меняются и сейчас. Техника же утверждает свою нравственную нейтральность — к чему ее применили, тем она и ценна. Она не лишит нас восторгов наших свершений и не расширит прискорбные границы человеческого бытия. И когда дело дойдет до нравственных обязательств, техника не избавит нас от проблемы выбора.

Источник: Jewish Ideas Daily, Иехуда Мирски//

И еще о жизни машин:
Машина для мацы
Тело как машина
И просто автомобили