Представьте: вы придумали самообучаемую машину, которая собирает клубнику. Она с каждым днем собирает ее все лучше и лучше, все больше и больше. Ей начинает нравиться собирать клубнику. Логично, что в какой-то момент ей захочется, чтобы на всей планете были сплошные клубничные поля. А теперь представьте, что вы собираетесь выключить такого робота, чтобы он не уничтожил человечество, пытаясь засадить все клубникой. Вы будете первым, кого он убьет.

Другие цитаты

• Критика чистого разума:

  Всякое наше познание начинается с опыта.

• Иммануил Кант:

  Без сомнения, всякое наше познание начинается с опыта.

• Критика чистого разума:

  Хотя всякое наше познание и начинается с опыта, отсюда вовсе не следует, что оно целиком п

• Критика чистого разума:

  Всякое изменение имеет свою причину.

• Критика чистого разума:

  Значительная, а может быть наибольшая часть деятельности нашего разума состоит в расчленен

• Мыслить как преступник:

  А вы знаете, что существуют современные направления в расчленении и фетишизме? Мне срочно

• Антон Иванович Деникин:

  В сознании честных русских людей счастье Родины не может быть приобретено путем ее расчлен

• Где скачать руководство по расчленению трупов? Тебе заняться что ли нечем?

• Дремлющий демон Декстера:

  Я медленно пошел прочь, чувствуя, как на лице автоматически появилась беззаботная приветст

• Ведьмы за границей:

  – Мир дому сему, – небрежно бросила матушка. С этих слов ведьмы обычно начинают все свои з