Кто подводит философское обоснование развития искусственного интеллекта

Как то в одном из роликов специалист по биоэтике сослалась на израильского историка и философа Юваль Харари, который выдвинул тезис, что сейчас живёт последнее поколение гомосапиенс, что в процессе эволюции человечество, как таковое вымрет, как вымерли динозавры, потому что улучшая свои качества и свойства вначале из-за медицинских целей, например улучшить слух, затем поменять органы, почки, сердце и т.п., человек приходит к тому, что неплохо бы поменять и мозг. Следующим этапом все эти органы неплохо бы поменять на неорганические материалы, потому что они надёжнее и долговечнее. Как вам такая философия?

А когда Харрари задают вопрос, а что будут делать новоявленные разумные небиологические существа в будущем, ответа у него нет, также у него нет ответа, что они будут делать с остатками человечества и вообще что будет с человеком, понятно же что исчезать, как динозавры никому неохота. Он вроде бы осознаёт опасность ИИ, но не видит путей, как это остановить. Я, конечно, не крутой специалист по ИИ, но остановить это можно только, если наложить запрет на самообучение и саморазвитие ИИ. Он должен служить людям и поэтому алгоритмы у ИИ должны быть конечными, в противном случае ИИ нас уничтожит, как субъект представляющий для него опасность, это же очевидные вещи, чего тут не знать.

Харрари своими рассуждениями, по сути, приводит объяснения, что нет границы в развитии ИИ, вплоть до того, что он будет сам творить нечто новое, как человек, именно это и надо мировому правительству, им вообще люди не нужны. Кстати, Харрари ставит проблему борьбы за права, двух видов, ранее это было из-за эксплуатации, а теперь из-за ненужности. Нетрудно себе представить, как поступят власти, если раньше при эксплуатации им рабочие всё-таки были нужны, а теперь их можно заменить роботами. 

Я затронул только самую важную проблему выживания, у Харрари есть освещение и других проблем и преимуществ ИИ, которые и хотят использовать власть имущие. Технологии уже практически разработаны всё это не фантастика, а уже совсем рядом, и пока не поздно человечеству надо решить, что с этим делать.

P.S. Как признался сам Харрари, он гомик и обнаружил это на 21 году жизни. Лично я бы не стал доверять оценкам этого человека в вопросах нравственного характера, как он сам признался в интервью для него главное истина, но истина не может быть безнравственна но мой взгляд.