Многообразие проявлений причинно-следственных связей в материальном мире обусловило существование нескольких моделей причинно-следственных отношений. Исторически сложилось так, что любая модель этих отношений может быть сведена к одному из двух основных типов моделей или их сочетанию.

Опасно разумен

Первые едва разумные вещи будут иметь едва свободную волю. Но ведь мы претендуем на создание настоящего разума, ни в чём не уступающего человеческому. Поэтому "просто разумность" - это первый шаг к такой цели. В конце концов, задача создания искусственного разума, имеющего волю и стремления, будет решена.

Если вы позволите разумной машине принимать решения, то вы не сможете знать заранее, что это будут за решения. Вы также не можете быть уверены, что эти решения вас устроят. Разве вы всегда довольны даже своими решениями? Поэтому машина сможет осуществить свою волю в соответствии со своими суждениями, даже если вы этого не желаете.

Искусственный отбор роботов.

Для выращивания поколений разумных машин, обладающих только полезными признаками, можно применять искусственный отбор. Такой отбор в виде уничтожения неподходящих искусственных созданий успешно проверен, например, при выведении новых пород собак. Но как вы представляете себе уничтожение существа, которое умнее и чувствительнее вас, особенно если оно ценит себя и своё сознание?

Достаточно умные роботы смогут изобрести способ прохождения наших тестов, чтобы удовлетворить критериям искусственного отбора. Если разумное существо ценит себя, то оно будет пытаться выжить в селектирующей мясорубке, применяя все средства и хитрости. При этом роботы станут ещё опаснее, чем при достаточно свободном воспитании.

Я вижу только один путь, дающий надежду на безопасное сосуществование с роботами. Когда они достигнут и превзойдут человеческий уровень интеллекта и проявят стремление влиять на общественные процессы, нужно дать им право голоса и право быть избранными. Тогда нравственный отбор, который действует в демократическом обществе, будет также отбирать и представителей искусственного поколения в соответствии с желаниями избирателей. Пока этот процесс не станет стабильным, я надеюсь, мы сможем воздерживаться от создания слишком мощных и слишком разумных роботов. Хотя эта надежда логически не обоснована.

В конце концов, ничто живое не будет нужно новому поколению синтетической жизни. Дай Бог, если мы станем домашними питомцами или игрушками.

Перейти на страницу: 1 2 

Немного больше о технологиях >>>

Обработка резанием
Обработка резанием является универсальным методом размерной обработки. Метод позволяет обрабатывать поверхности деталей различной формы и размеров с высокой точностью из наиболее используемых конструкционных материалов. Он обладает малой энергоемкостью и высокой производительно ...

Изо всех лошадиных сил
В 1765 году англичанин Джеймс Уатт изобрел паровую машину, положив начало длинной цепочке инноваций в двигателестроении. В 1860 году французский механик Этьен Ленуар разрабатывает первый поршневой двигатель внутреннего сгорания. В 1889 году швед Карл Густав Патрик Лаваль, соверш ...

Галерея

Tехнологии прошлого

Раскрытие содержания и конкретизация понятий должны опираться на ту или иную конкретную модель взаимной связи понятий. Модель, объективно отражая определенную сторону связи, имеет границы применимости, за пределами которых ее использование ведет к ложным выводам, но в границах своей применимости она должна обладать не только образностью.

Tехнологии будущего

В связи с развитием теплотехники ученые в прошлом веке пришли к простому, но удивительному закону, потрясшему человечество. Это закон (иногда его называют принцип) возрастания энтропии (хаоса) во Вселенной. technologyside@gmail.com
+7 648 434-5512