49 летнюю женщину сбил беспилотный автомобиль
19 марта 2018 года беспилотный автомобиль UBER насмерть сбил 49 летнею женщину. Так произошла первая авария с летальным исходом. В которой пока нет виноватого. Машина тестировалась и водитель был на случай таких ситуаций, но он отвлекался, смотрел шоу голос, но и велосипедистка выпрыгнула на дорогу из темноты в неположенном месте. К сожалению никто бы не смог предотвратить этой смерти.
Действительно ли это восстание машин?
Может ли искусственный интеллект убивать специально, и представляет ли опасность беспилотный автомобиль?
Беспилотный автомобиль не отвлекается, не засыпает. Он постарается всеми силами избежать аварии, но если это невозможно он постарается минимизировать ущерб. Для этого ей могут прописать систему штрафов. По типу
Ученые из MIT решили спросить как поступить, у вас. На сайте MORAL MACHINE вы можете побыть в роли беспилотного автомобиля и сами совершить моральный выбор. Ведь это важно, если мы хотим открытого и дружественного интеллекта от машин, то нам сначала нужно разобраться со своим отношением к себе а уже потом учить машину что такое хорошо а что плохо. Но как машины воспринимают наш мир сейчас, и стоит ли их боятся?
Машина напичкана сенсорами, камерами и радарами, она в буквальном смысле видит дорогу. Компьютерное зрение рисует картину окружающего, выделяет полосы движения и определяет положение автомобиля. Искусственный интеллект замечает объекты на дороге, считает их размер, скорость и направление движения. Затем он решает как будет ехать автомобиль все это происходит в реальном времени. Машина запрограммирована объезжать препятствия, она постарается ни во что не врезаться если увидит что-то подозрительное
Ключевое слово здесь "постарается". Мы, люди прописываем машине правила как поступить в той или иной ситуации. Машине не придется выбирать кого спасти, а кем пожертвовать. Выбирать придется человеку, который задает ей правила. Все это похоже на классическую проблему вагонетки.
Это такая ситуация. Несколько человек привязаны к рельсам, на них едет вагонетка с одним человеком внутри. Необходимо сделать выбор, убить одного человека что-бы спасти нескольких, или не делать ничего и дать вагонетки переехать пятерых. И правильного ответа здесь нет. Вы можете действовать по принципу наименьшего зла, или наоборот не вмешиваться.
Так или иначе объяснить искусственному интеллекту что хорошо а что плохо придется но для этого надо знать как он работает.
Нейросети, deep learning, бустинг последнее время мы только и слышим об этом. Машинное обучение вошло в моду, и стало хайповой технологией. В новой рекламе духов от Yves Saint Laurent героем стал не гонщик и не бизнесмен а исследователь искусственного интеллекта. Александр Робике в Google X он использует машинное зрение что-бы изучать аномалии мозга.

Посмотрите на эту формулу. Знакома?
Она лежит в основе теории вероятностей на которой работает математика нейросетей и была придумана в 1763 году священником Томасом Байес. Можно сказать что основы искусственного интеллекта были заложены еще в 18 веке.

Первый нейро компьютер появился только спустя 200 лет в 1958 году. Это Марк 1, работает на алгоритме перцептрон.
Его мозг состоит из слоя рецепторов, нейронов и классификаторов. Рецепторы принимают сигнал как это делает сетчатка глаза и передают дальше нейрону. Каждый рецептор связан с каждым нейроном, отсюда и такое количество проводов. Нейроны суммируют все сигналы и передают сигнал в классификаторы они-то и распознают изображение. Каждому образу цифре, букве или квадрату соответствует свой классификатор.
Сила связей между рецепторами и нейронами в процессе обучения меняется. Связи приводящие к правильным распознавание усиливаются, к неправильным наоборот ослабляются. Как ребенок понимает со временем что утюг горячий, так и Марк 1 со временем учится распознавать цифры, буквы и простые геометрические фигуры.
Решить такие простые задачи как например узнать цифру, букву или простую геометрическую фигуру сейчас не составляет труда, потому что в 2000-х появились мощные видеокарты. Они позволяют нейросетям решать куда более сложные задачи. Сейчас нейросети состоят из множества слоев. Первый слой как младенец видит только свет и цвет. Второй слой различает элементы и текстуры. Третий, механизмы, части тела людей и животных. Четвертый уже классифицирует объекты и понимает что ему показывают. Нейросеть это обычная программа, но главное ее отличие в том что она учиться решать задачу сама. В случае правильных решений люди поощряют программу, в случае неправильных изменяют силу нейронных связей. Обученный алгоритм похож на интуицию, когда мы выходим на улицу иногда мы понимаем что скоро начнется дождь. Мы не знаем почему но мы это чувствуем, точно также нейросеть неосознанно понимает что ей показывают кошку а не собаку.
Информация между слоями нейро сети передается как и сигналы между нашими нейронами. Но даже самые сложные нейросети гораздо проще биологического мозга.
Вот обонятельная система бражника. 30.000 рецепторов ловят запахи и передают сигнал в антенную долю, где 60 клубочков нейронов их распознают. Дальше ход передается в грибовидное тело где 4000 специальных клеток превращают запахи в воспоминания. В ходе обучения выделяется гормон октопамин который помогает закреплять информацию. На финальном уровне внешние нейроны приводят сигнал в действие и насекомое летит верх. Простой, естественный интеллект мотыля уже гораздо умнее чем самый совершенный исcкуственый.
Но иногда машинам удается удачно скопировать биологический мозг. В нейросети которой дали задание находить короткий путь образовались аналоги нейронов, решетки. Это клетки которые помогают млекопитающим, например нам ориентироваться в пространстве и находятся они внутри головы.
Ученые наблюдали за сигналом одного нейрона, когда он посылал электрический импульс, они слышали щелчок и видели красную точку. Это значит что нейрон знает о передвижение крысы в пространстве, и посылает сигнал мозгу когда крыса возвращается в тоже место. Так с помощью нейрона она пересекает границы карты в своей голове и за счет этого ориентируется в пространства. Получается что в одном из слоев нейросети образовалась система похожая на ту, что у нас в мозге отвечает за ориентацию в пространстве. Другими словами мы развивались методом проб и ошибок и сейчас мы создали систему которая учится сама. В вопросе ориентации она развивается эволюционно так-же как и мы. Животные обучаются очень быстро что-бы запомнить запах бражнику достаточно нескольких примеров, а вот связи между слоями нейро сети корректируются пошагово, и таких корректировок нужно сделать ни 10, ни 100 а миллионы пока не будет получен нужный результат.

Если машина научилась что то делать то она быстро превосходит в этом человека. В 1997 компьютер Deep Blue выиграл матч из 6 партий у чемпиона мира по шахматам Гарри Каспарова. А в 2016 AlphaGo обыграла лучшего игрока в го Ли Седоля, а ведь до этого считалось что эта игра слишком сложная для программы. Вариантов ходов в 10 раз больше чем в шахматах, а число возможных партий больше количества атомов во вселенной.


Сначала программа посмотрела матчи лучших игроков а потом стала играть сама с собой становясь все совершеннее. Со временем нейросеть стала интуитивно понимать какой ход ей сделать следующим.
Понять значит повторить. Сначала мы наблюдаем за миром, а потом воспроизводим его по памяти так мы понимаем как устроен мир и это уже другой уровень интеллекта. Для обучение нужно двое, так-же и с нейросетями.
Одна программа генерирует изображение, и предлагает угадать другой все ли верно в классификаторах. Другая видит что это не птица, это не самолет, а это не бутылка.
Вот наглядный пример когда генеративная сеть играет роль фальшивомонетчика а дискриминативная эксперта, который распознает поделку. Вот лошадь которую создала нейросеть обманщик. С помощью миллиона разных комбинаций нейросеть обманщик смогла доказать нейросети эксперту что это зебра.
Хорошая новость, создание сюжетов и сценариев все еще остается уделом человека. Да, возможно совсем скоро блогеров заменит нейросеть глубокий обман, но она не сможет написать за них сценарий, да она будет визуально делать картинку. Программа понятие не имеет о смысле она использует слова и пиксели в тех сочетаниях что она посмотрела у людей. Как маленький ребенок повторяющий обрывки слов за родителями. Ребенка как известно легко обмануть, нейросеть тоже. Например спрятать команду в фоновом звуке, которую не слышит человек а слышат например дельфины. Такая технология так и называется dolphin attack
Siri понимает команду, и ей все равно кто ее отдаст. Пользователь или взломщик на чистоте дельфинов
А можно обмануть и визуально если добавить на картинку незаметный для человеческого глаза шум.
Каждый год хакеры пытаются обмануть нейросети, а разработчики учат не вестись на обман. Но стоит ли боятся что эта гонка вырастет в нечто ужасное, стоит ли боятся искусственного интеллекта?
Да, он лучше справляется конкретными задачами, лучше чем человек, но сделать нейросеть которая могла бы управлять другими нейросетями невозможно. Даже если представить что такой искусственный интеллект существует, мы ведь сразу наделяем его своими слабостями и пороками.
Искусственный интеллект будет уничтожать людей!!!
Стивен Уильям Хокинг
Apple CEO
Да будет, потому что, мы, люди сами так делаем.

Боевые роботы уже существуют, они могут находить и захватывать цели, роиться вместе и пытаться уничтожить например банк формирования, но на курок нажимает человек.
Захватить мир это очень человеческая цель, машине этого не нужно. Все посты
и разговоры по типу "Искусственный интеллект выйдет из под контроля и захватит мир" не больше чем выдумки журналистов, блогеров которые не до конца погрузились в тему. Но эти выдумки сеют в нас, в обычных людях панику и дезинформацию. 52% людей боятся что искусственный интеллект захватит мир. Разработчики искусственного на вопрос "Захватит ли искусственный интеллект мир" искренни смеются, люди которые действительно понимают что происходит в машинном обучение. Но одного опасаться стоит, искусственный интеллект может отнять у нас, работу как это сделали паровые машины в 19-м веке.
Искусственный интеллект помогает нам уже сейчас. Вы каждый день строите маршрут в картах, радуетесь подборке песен в плей-листе и знаете прогноз погоды. Мир вокруг нас становится персонализированным и удобным. Тот же беспилотный автомобиль который справляется с дорогой лучше человека. У нас только 2 глаза а у машины лидары, сканирующие пространство на 360 градусов а в мозгах, карта которая обновляется каждый день и машина не уснет за рулем. Да, автомобиль UBER сбил женщину потому что аварии было не избежать. Все это похоже на доверии к самолетам, там тоже случались свои аварии и мало кто доверял полетам ведь "рожденный ползать летать не должен". Сейчас авиация признана самым безопасным видом транспорта. Новых технологий всегда боятся, но потом они все равно вытесняют традиционные. Дa, мы можем все запретить и на время отсрочить прогресс, или мы можем тестировать и испытывать новые технологии с каждым днем делая их все безопаснее. Индустрия только начинает работать, ошибки устраняются гораздо быстрее чем у человека. Программы будут становится сложнее, алгоритмы совершенней а механизмы менее понятными, но машине все равно требуется цель и простой, численный показатель приближения к ней. Когда нейросеть училась играть в Го у нее было много примеров но такое бывает не всегда. Наш мир постоянно меняется, чтобы распознать лошадь программе нужно миллион раз ошибиться. Чтобы захватить мир ей понадобится проиграть этот сценарий миллиарды раз. Даже если представить что он хочет захватить мир то ему для этого потребуется сознание. Проблема сознания заключается в парадоксальности ситуации. Мы, люди обладаем сознанием, но мы до сих пор не знаем что это такое.
This site was made on Tilda — a website builder that helps to create a website without any code
Create a website