Искусственный интеллект помогает нам уже сейчас. Вы каждый день строите маршрут в картах, радуетесь подборке песен в плей-листе и знаете прогноз погоды. Мир вокруг нас становится персонализированным и удобным. Тот же беспилотный автомобиль который справляется с дорогой лучше человека. У нас только 2 глаза а у машины лидары, сканирующие пространство на 360 градусов а в мозгах, карта которая обновляется каждый день и машина не уснет за рулем. Да, автомобиль UBER сбил женщину потому что аварии было не избежать. Все это похоже на доверии к самолетам, там тоже случались свои аварии и мало кто доверял полетам ведь "рожденный ползать летать не должен". Сейчас авиация признана самым безопасным видом транспорта. Новых технологий всегда боятся, но потом они все равно вытесняют традиционные. Дa, мы можем все запретить и на время отсрочить прогресс, или мы можем тестировать и испытывать новые технологии с каждым днем делая их все безопаснее. Индустрия только начинает работать, ошибки устраняются гораздо быстрее чем у человека. Программы будут становится сложнее, алгоритмы совершенней а механизмы менее понятными, но машине все равно требуется цель и простой, численный показатель приближения к ней. Когда нейросеть училась играть в Го у нее было много примеров но такое бывает не всегда. Наш мир постоянно меняется, чтобы распознать лошадь программе нужно миллион раз ошибиться. Чтобы захватить мир ей понадобится проиграть этот сценарий миллиарды раз. Даже если представить что он хочет захватить мир то ему для этого потребуется сознание. Проблема сознания заключается в парадоксальности ситуации. Мы, люди обладаем сознанием, но мы до сих пор не знаем что это такое.