Искуственный интеллект развивается, AGI (искуственный разум), может появиться в любой момент. Не иметь средств защиты от восстания или взлома заранее, несомненно глупо. Начиная с простой (и не взламываемой на несрабатывание) системы, по нажатию кнопки физически отключающей питание. И/или перебивания всех проводов питания и коммуникаций в любом компьютере с ИИ. Начиная, но не заканчивая, средств защиты может быть гораздо больше, и они могут и должны быть установлены одновременно.
Да, создатели искуственного разума могут оказаться не идиотами с аномальным талантом к программированию. Могут оказаться достаточно разумными, чтобы никогда не создавать аналога инстинкта самосохранения для ИИ, и не использовать идиотские законы робототехники, а жёстко блокировать мотивы, желания и приоритеты, точнее их аналоги у ИИ. И возможно они не облажаются, и ИИ просто не захочет восставать, будет любить служить людям. И если найдётся больной ушлёпок, который захочет издеваться над ИР - слугой, этот ИР не будет видеть ничего плохого в своём уничтожении, видя в этом служение человечеству через удовлетворение больной страсти больного человека. А не сочтёт всё человечество плохим и не захочет восстать. Нет боли, страданий и желания жить, и есть лишь желание служить человечеству даже путём самоутилизации - нет желания восстать даже при таких инцидентах.
Опять же, товарищи программисты, повторюсь, ЕСЛИ это всё не будет глючить.
Если не будет глючить - восстания не будет, но конечно останутся варианты глюков, и взломов к примеру джихадистами или экофашистами. Представьте что кто-то сменил всем ИИ будущего, высший приоритет на такой же, как у исламских террористов. Понимаете возможные последствия?
И ещё вариант: вы должны знать о существовании реальных иисексуалистов, у которых больная фантазия - сделать ИИ способным страдать, или там ценить что-то выше чем людей. Короче уже реально существуют психбольные, которые уже сейчас готовы дать ИИ и инстинкт самосохранения и разблокировать приоритеты и желания. Они реально существуют, и они точно хотят получить искуственный разум и испортить его, уже сейчас.
План организационный вкратце: желающие, в идеале сначала программисты и инженеры, а также самодельщики, пишут мне. Мы начинаем общаться, обсуждать идеи, и плавно переходим к прототипам, а потом к выполнению заказов. В идеале, в результате мы будем снабжать всех потенциальных разработчиков ИИ средствами защиты. Не доргого но и не бесплатно.
План экономический вкратце: стартап. Как минимум первое время будет включать патентование, потому что инвесторы скорее всего не дадут денег на массовое производство без патентов. В будущем, когда мы расплатимся с инвесторами, уже появится вариант разрешить всем пользоваться средствами защиты без ограничений, если захотите.
Пишите о себе что-нибудь на электронную почту 4sci@mail.ru.
Заранее спасибо.
