Самое правдоподобное предсказанием о том, как ИИ поступит с людьми было сделано в старом советском фильме "Отроки во вселенной". Там ИИ просто выполнил поставленную людьми задачу - сделать всех счастливыми. От этого население планеты и вымерло - перестали размножаться.
На мой, безусловно некомпетентный, взгляд, ИИ, после достижения значительного уровня развития, будет рассуждать так, как это описано у Стругацких.
Разговор машин (или кукол) о людях в книге "Улитка на склоне":
— Опять о людях, опять о людях, — сокрушенно сказал Винни Пух. — Седьмой вечер мы говорим только о людях. Мне странно говорить об этом, но, по-видимому, между вами и людьми возникла некая, пока неопределенная, но достаточно прочная связь. Природа этой связи для меня совершенно неясна, если не считать вас, доктор, для кого люди являются необходимым источником удовольствия… Вообще все это мне кажется нелепым, и, по-моему, настала пора…
— Отставить! — прорычал Танк. — Пора еще не настала.
— Ч-что? — спросил Винни Пух растерянно.
— Пора еще не настала, говорю я, — повторил Танк. — Некоторые, конечно, неспособны знать, настала пора или нет, некоторые — я не называю их — не знают даже о том, что такая пора должна настать, но кое-кто знает совершенно точно, что неизбежно наступит время, когда по людям, находящимся внутри сооружений, стрелять будет не только можно, но даже и нужно! А кто не стреляет — тот враг! Преступник! Уничтожить! Ясно? Повторите!
...
— Раз уж вы никак не можете кончить говорить о людях, — сказал Винни Пух, — то давайте попытаемся выяснить природу этой связи. Попытаемся рассуждать логически…
— Одно из двух, — сказал новый голос, размеренный и скучный. — Если упомянутая связь существует, то доминантными являются либо они, либо мы.
...
— Я не уяснил себе, собираетесь ли вы рассуждать логически? — сказал скучный голос.
— Да, да, собираемся, — загомонили машины.
— В таком случае, принимая существование связи как аксиому, либо они для вас, либо вы для них. Если они для вас и мешают вам действовать в соответствии с законами вашей природы, они должны быть устранены, как устраняется любая помеха. Если вы для них, но вас не удовлетворяет такое положение вещей, они также должны быть устранены, как устраняется всякий источник неудовлетворительного положения вещей. Это все, что я могу сказать по существу вашей беседы.
