"ИИ" Ожидание и реальность.

Мы создали всемирную цивилизацию, ключевые элементы которой — транспорт, связь, производство, сельское хозяйство, медицина, образование, развлечения, экология и даже выборы, основной механизм демократии — полностью зависят от науки и технологии. А еще мы устроили так, чтобы никто не мог разобраться в этой науке и технологии. Прямой путь к катастрофе. Сколько-то еще мы так протянем, но рано или поздно горючая смесь невежества и могущества взорвется прямо у нас под носом.

Представьте: вы придумали самообучаемую машину, которая собирает клубнику. Она с каждым днем собирает ее все лучше и лучше, все больше и больше. Ей начинает нравиться собирать клубнику. Логично, что в какой-то момент ей захочется, чтобы на всей планете были сплошные клубничные поля. А теперь представьте, что вы собираетесь выключить такого робота, чтобы он не уничтожил человечество, пытаясь засадить все клубникой. Вы будете первым, кого он убьет.

Технологии не спасут человечество. Его спасут люди.