Проблема с искусcтвенным и естественным интеллектом на самом деле в том, что они развиваются с очень разной скоростью. Намного ли больше стало людей, понимающих общую теорию относительности, за последние полвека? А намного ли продвинулся искусcтвенный интеллект за то же время? При такой динамике, получение полезных плюшек от ИИ скоро будет сродни получению их же от пришельцев - оно как-то работает, но никто толком не понимает как. А погубит всех не злокозненность ИИ, а то, что при постановке какой-нибудь сложной проблемы кто-нибудь забудет поставить, или неправильно сформулирует, условие, чтобы людишки все остались живы, и - гораздо более сложно формализуемое - счастливы. И получится что-нибудь вроде, кто-нибудь задаст задачу "чтобы у всех всё было, и за это никому ничего не было", а окажется, что оптимальное решение - помножить всех на ноль каким-нибудь изощрённым способом, но из-за недоступных человеческому разуму технических сложностей никто этого не поймёт, пока не будет поздно.
Единственный лежащий на поверхности логический вывод из этого - что человечеству как виду стоило бы экспериментировать с собственными мозгами не менее яростно, чем это происходит с компьютерами и ИИ, чтобы не отстать, и не остаться на роли тупых и беспомощных пользователей технологии, которая сама по себе. Будет, конечно, выбраковка, отдельные партии придётся отправлять в утиль, как неудачную модель смартфона, но такова цена.