?

Log in

entries friends calendar profile Previous Previous Next Next
Проблема с искусcтвенным и естественным интеллектом на самом деле в… - persona non grata
О главном не пишут в газетах и о главном молчит телеграф
lifewalker
lifewalker
Проблема с искусcтвенным и естественным интеллектом на самом деле в том, что они развиваются с очень разной скоростью. Намного ли больше стало людей, понимающих общую теорию относительности, за последние полвека? А намного ли продвинулся искусcтвенный интеллект за то же время? При такой динамике, получение полезных плюшек от ИИ скоро будет сродни получению их же от пришельцев - оно как-то работает, но никто толком не понимает как. А погубит всех не злокозненность ИИ, а то, что при постановке какой-нибудь сложной проблемы кто-нибудь забудет поставить, или неправильно сформулирует, условие, чтобы людишки все остались живы, и - гораздо более сложно формализуемое - счастливы. И получится что-нибудь вроде, кто-нибудь задаст задачу "чтобы у всех всё было, и за это никому ничего не было", а окажется, что оптимальное решение - помножить всех на ноль каким-нибудь изощрённым способом, но из-за недоступных человеческому разуму технических сложностей никто этого не поймёт, пока не будет поздно.
Единственный лежащий на поверхности логический вывод из этого - что человечеству как виду стоило бы экспериментировать с собственными мозгами не менее яростно, чем это происходит с компьютерами и ИИ, чтобы не отстать, и не остаться на роли тупых и беспомощных пользователей технологии, которая сама по себе. Будет, конечно, выбраковка, отдельные партии придётся отправлять в утиль, как неудачную модель смартфона, но такова цена.
2 comments or Leave a comment
Comments
From: gekkkon Date: January 23rd, 2017 03:48 pm (UTC) (Link)
Tсть проблема. Описана тут: ria. ru/science/20170116/1485812744. html
Т.е. индивидуальные эксперименты с мозгами возможны скорее в типаиндийском стиле, в графике ученик-домохозяин-отшельник. Чтоб и учился, и плодился, и потом только развивал мозги. А то слишком рано развитые мозги снижают размножабельность не только по причинам, связанным "генетикой" -- в том числе другие вещи становятся интересны, не такие стереотипные;), да и возможности для внешнего контроля (тож необходимо для успешного размножения не только тушек, но и "программ") при поумнении уменьшаются;).
lifewalker From: lifewalker Date: January 24th, 2017 03:50 pm (UTC) (Link)
Тут есть два момента. Вопрос пложения скоро будет чисто техническим. А мозги надо развивать кооперативно, а не каждый отшельник куда попало. Прикинули, сколько надо астрофизиков следующего уровня для решения какой-то проблемы, разработали прошивку мозгов, привнесли чуток мутаций чтобы не скучно было, залили нужному количеству, с запасом, и посадили всех в одну шарашку, фигачить.
2 comments or Leave a comment