Многообразие проявлений причинно-следственных связей в материальном мире обусловило существование нескольких моделей причинно-следственных отношений. Исторически сложилось так, что любая модель этих отношений может быть сведена к одному из двух основных типов моделей или их сочетанию.

Опасно разумен

Первые едва разумные вещи будут иметь едва свободную волю. Но ведь мы претендуем на создание настоящего разума, ни в чём не уступающего человеческому. Поэтому "просто разумность" - это первый шаг к такой цели. В конце концов, задача создания искусственного разума, имеющего волю и стремления, будет решена.

Если вы позволите разумной машине принимать решения, то вы не сможете знать заранее, что это будут за решения. Вы также не можете быть уверены, что эти решения вас устроят. Разве вы всегда довольны даже своими решениями? Поэтому машина сможет осуществить свою волю в соответствии со своими суждениями, даже если вы этого не желаете.

Искусственный отбор роботов.

Для выращивания поколений разумных машин, обладающих только полезными признаками, можно применять искусственный отбор. Такой отбор в виде уничтожения неподходящих искусственных созданий успешно проверен, например, при выведении новых пород собак. Но как вы представляете себе уничтожение существа, которое умнее и чувствительнее вас, особенно если оно ценит себя и своё сознание?

Достаточно умные роботы смогут изобрести способ прохождения наших тестов, чтобы удовлетворить критериям искусственного отбора. Если разумное существо ценит себя, то оно будет пытаться выжить в селектирующей мясорубке, применяя все средства и хитрости. При этом роботы станут ещё опаснее, чем при достаточно свободном воспитании.

Я вижу только один путь, дающий надежду на безопасное сосуществование с роботами. Когда они достигнут и превзойдут человеческий уровень интеллекта и проявят стремление влиять на общественные процессы, нужно дать им право голоса и право быть избранными. Тогда нравственный отбор, который действует в демократическом обществе, будет также отбирать и представителей искусственного поколения в соответствии с желаниями избирателей. Пока этот процесс не станет стабильным, я надеюсь, мы сможем воздерживаться от создания слишком мощных и слишком разумных роботов. Хотя эта надежда логически не обоснована.

В конце концов, ничто живое не будет нужно новому поколению синтетической жизни. Дай Бог, если мы станем домашними питомцами или игрушками.

Перейти на страницу: 1 2 

Немного больше о технологиях >>>

О побочном событии в лабораторном эксперименте
В исследовании частных приложений теории относительности экспериментальная физика значительно опережает теоретическую, которой все чаще приходится объяснять причины расхождения своих предсказаний с результатами практического опыта. Такое взаимоотношение теории и эксперимента ...

Проблемы квазистатической электродинамики
В работах [1], [2] мы показали, что условием выполнения градиентной инвариантности (эквивалентность калибровки Лоренца и кулоновской калибровки) является жесткое ограничение на источники полей в уравнениях Максвелла. Заряды и токи в этих уравнениях должны перемещаться со скорос ...

Галерея

Tехнологии прошлого

Раскрытие содержания и конкретизация понятий должны опираться на ту или иную конкретную модель взаимной связи понятий. Модель, объективно отражая определенную сторону связи, имеет границы применимости, за пределами которых ее использование ведет к ложным выводам, но в границах своей применимости она должна обладать не только образностью.

Tехнологии будущего

В связи с развитием теплотехники ученые в прошлом веке пришли к простому, но удивительному закону, потрясшему человечество. Это закон (иногда его называют принцип) возрастания энтропии (хаоса) во Вселенной. technologyside@gmail.com
+7 648 434-5512