Искусственный интеллект друг или враг

Искусственный интеллект друг или враг

Многие ученые считают, что создание систем искусственного интеллекта поставит под угрозу существование человечества в целом. Данную проблему рассматривают на одном уровне с климатическими изменениями на планете, влиянием нанотехнологий и биотехнологий на человека.

Антуан Блондо – генеральный директор компании Sentient Technologies Holdings, отмечает, что уже в недалекие 5 лет развитие искусственного интеллекта достигнет того уровня, что мы сможем просто разговаривать со своими телефонами или компьютерамии, при этом они полностью будут понимать наши команды. Свидетельством этому является уже существующая в мобильных телефонах функция Siri, с помощью которой можно зарезервировать столик в ресторане, отправить сообщение, набрать телефонный номер, она выступает в качестве личного интеллектуального помощника. Не зря тема искусственного интеллекта стала одной из самых востребованных в кинематографии.

Искусственный интеллект в кино

В 2015 году было выпущено множество фильмов, которые поднимали проблему искусственного интеллекта. К таким фильмам можно отнести:

– «Робот по имени Чаппи», в котором повествуется о первом роботе.Он способен воспринимать эмоции человека, а также реагировать на них.

– «Мстители: Эра альтрона», история о стремлении Альтрона, искусственного интеллекта, уничтожить человечество;

– «Терминатор: Генезис», опять же повествование о войне между человечеством и машинами.

Предсказывают ли кинематографисты будущее человечество, является ли это поводом для тревоги?

Последствия искусственного интеллекта

Научные исследователи отмечают, что в недалеком будущем искусственные машины будут самосовершенствоваться, и их быстрое развитие невозможно будет остановить. Технологии смогут превзойти человека, они будут управлять научными исследованиями, разработкой оружия, подсчетами на финансовых рынках. Все это приведет к невидимым ранее проблемам: увеличению количества безработных, потере у людей чувства собственной уникальности, появлению безответственности, возможно, даже концу человеческой расы.

Доверие машинам

Недавно журнал Wired представил своим читателям статью о том, что искусственный интеллект может ошибаться. Один из лучших современных ИИ видя перед собой параллельные черные и желтые линии, утверждает, что это школьный автобус и уверен в своей правоте на 99%. Это доказывает и запущенный британским математиком Стивеном Вольфрамом новый сервис ImageIdentify, в котором искусственным интеллектом распознается изображение на фотографии. Этот сервис стал причиной насмешек, так как система назвала дракона «американским лобстером», ленивца же в шапочке – человеком. А если все эти ошибки будут осуществлены машинами при производстве военных систем или коммерческих продуктов?

Все это может привести к негативным последствиям.Кроме ошибок самой системы, роботы могут стать хорошим оружием и для злоумышленников.

Ученый Элиезер Юдковский по этой причине призывает создавать дружественный искусственный интеллект. Его предложение в создании демократической системы сдержек и противовесов, то есть создание полного контроля процесса производства искусственного интеллекта, является вполне уместным. Это позволит обойти множество ошибок в кодах, технологии будут развиваться не во вред человечеству, а на пользу.

Устранение рисков

В полной мере устранить риски искусственного интеллекта невозможно, однако, люди могут контролировать этот процесс. Главным является то, чтобы лидеры специалистов по этике, научным технологиям и политические представители поняли важность данной проблемы. Только общественная и политическая дискуссия и вытекающие из нее действия смогут устранить возможность появления негативных последствий.

Важно, чтобы были разработаны протоколы, которые будут настаивать на испытании всех создаваемых интеллектуальных машин. Проверка уровня безопасности и следование всем качественным стандартам помогут избежать худшего сценария развития человечества. Однако все это должно происходить таким образом, чтобы не мешать развитию человечества и появлению инновационных технологий.

Другой ход событий

Некоторые иссследователи предполагают другой сценарий исхода войны между роботами и людьми. Завершением они считают мирное сосуществование. До того, как искусственный интеллект начнет руководить всеми процессами на земле, человечество найдет пути, с помощью которых оно сможет подключиться к нему. Все преимущества человеческого ума и интеллекта машин соберутся воедино. При этом эволюция будет продолжаться, но уже в более сложной и продвинутой организации.

Большим плюсом человека в этом вопросе является тот факт, что всем этим процессом он может управлять. Главное – начать диалог и способствовать созданию роботов, которые принесут только благо человеческому существованию, а не вред. Армия экспертов в области технологий уже сегодня должна начать свою работу и создать все необходимые меры предосторожности. Серьезных исследований по данному вопросу еще нет, поэтому необходимо способствовать появлению специальных исследовательских институтов по изучению машинного интеллекта и жизни в будущем.

Можно ли будет управлять полностью всеми процессами развития искусственного интеллекта, покажет лишь время.

Искусственный интеллект – друг или враг?

Подзаголовок

Тема Искусственного Интеллекта (ИИ) обсуждается уже довольно долго. В научной фантастике ему посвящено немало публикаций. И пожалуй самым известным публицистом и исследователем в этой области был Айзек Азимов . Именно он сформулировал три закона робототехники:
1. Робот не может причинить вред человеку или своим бездействием допустить , чтобы человеку был причинен вред.

2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.

3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.

Впервые они были сформулированы в рассказе ” Хоровод” 1942 г. 72 года назад. Как видим, тема не новая, а вопросы и проблемы, которые в ней затрагиваются, тем более. На пике развития технологического прогресса, новых открытий в математике и физике, человечество думало, что вот вот появятся железные помощники которые заменят их для выполнения тяжелой и рутинной работы . На этой волне снимались фильмы а позже производились компьютерные игры .
Время шло, ничего не появлялось, и тема стала сходить на нет.

И вот с появлением новых технологий и материалов интерес к роботам и ИИ снова стал возрастать с геометрической прогрессией. Появились частные и открытые проекты по иследованию ИИ и робототехнике. Новые открытия в области математики позволили создать алгоритмы для управления и самообучения машин. Датчики и сенсоры так сильно внедрились в жизнь человека что теперь он носит в кармане то что раньше могло уместиться разве только на большом грузовике. И вновь тема ИИ встала остро.

Большие корпорации стали скупать успешные проекты которые занимаются ИИ и роботами . Далеко ходить не надо, в январе 2014 года “корпорация добра” Google Купила DeepMind Технологии специализирующуюся на технологиях искусственного интеллекта.

DeepMind была основана в 2012 г. нейробиологами Демисом Хассабисом (Демис Хассабис), Шейном Лег (Шейн Легг) и Мустафой Сулейманом (Мустафа Сулейман).

На сайте DeepMind написано: «Мы объединяем лучшие методы машинного обучения и нейробиологические системы для строительства мощных обучающихся алгоритмов общего назначения . Наши первые коммерческие приложения предназначены для симуляторов, электронной коммерции и игр ». Также сообщается, что в число инвесторов DeepMind входят «предприниматели, получившие широкую известность в технологической сфере за последние 10 лет».
Так же незадолго до этого была приобретена компания Boston Dynamics, выполняющая заказы Пентагона на создание роботов.
Не отстают и другие компании. Facebook наняла профессора Яна ЛеКуна (Yann LeCunn), чтобы он возглавил лабораторию FB по разработке искусственного интеллекта. Ян ЛеКун является одним из ведущих специалистов в области машинного обучения .
Также между этими корпорациями (компаниями курсор не поворичивается их назвать) разразилась борьба за производителя и разработчика летающих дронов беспилотников компанию Titan Aerospace . Все делается под официальной версией обеспечить доступным интернетом 5 млрд. чел на планете. Ставка делается на развивающиеся страны.

Не так давно появившийся документальный фильм The Incredible Bionic Man (Невероятный бионический человек) вызвал большой резонанс и неоднозначные оценки среди людей. Тот факт, что это уже не фантастика и не очередное кино вызывает у многих шок .
Сторонники Идей Рэя Курцвейла ( С декабря 2012 года Курцвайль занимает должность технического директора в области машинного обучения и обработки естественного языка в компании Google) о сингулярности и человеко-машинной цивилизации утверждают, что подобная механизация и соединения человека и машины принесет только пользу и позволит человечеству подняться на много ступеней вверх в своем развитии.

Мало кто замечает, что при разработке роботов и ИИ корпорации уже не руководствуются гуманистическими тремя законами робототехники , а в бешенной гонке пытаются захватить технологии и рынки для продвижения своих продуктов . Роботы создаются и испытываются в первую очередь в армии и для армии .
Или они решили добавить еще один закон робототехники? Так называемый “0” закон: ” Робот не может причинить вреда человеку, если только он не докажет, что в конечном счёте это будет полезно для всего человечества “

Развития скорости ПРИ и так технологий называемой технологической сингулярности (когда технический процесс становиться настолько быстрым и сложным, что уже недоступен пониманию) встает очень важный вопрос: А осознает ли человечество к чему идет? И может ли успевать за прогрессом чтобы осознавать каждый его скачек ?

И то, что это не шутка а действительность с которой сегодня столкнулось человечество говорит мнение ученых которым небезразлично будущее людей и планеты . В газете Independent Стивен Хокинг (Stephen William Hawking) выражает свое беспокойство на этот счет. Вот что он говорит:
” Все эти достижения меркнут на фоне того, что нас ждет в ближайшие десятилетия. Успешное создание искусственного интеллекта станет самым большим событием в истории человечества . К сожалению, оно может оказаться последним, если мы не научимся избегать рисков. “( Independent от 01 мая 2014 года и перевод статьи )
Также Хокинг говорит о том, что на сегодняшний день очень мало некоммерческих организаций и исследований , в области ИИ, роботов и проникновению этих технологий в жизнь людей.

Итак. Из всего выше сказанного можно сделать вывод. В последние два года крупные корпорации активизировались скупая все что связано так или иначе с искусственным интеллектом и робототехникой . Появились различные социальные и свободные проекты в этих областях (например проект Arduino и др.), Снимается большое колличество фильмом с подобной тематикой. И все это в короткий промежуток времени.
Ясно, что просто так такие гиганты индустрии деньги на ветер не бросают . Значит открылась ниша и знания пока не доступные большинству жителей планеты . Не об этом ли говорит С. Хокинг и др ученые?
Справятся ли корпорации со своим ” творением Франкенштейна” или будут поглощены гонкой технологий, покажет время. Ну а тем кому не безразлична эта тема стоит объединяться в группы по изучению ИИ и вырабатывать пути взаимодействия человека и машины .

Друг или враг? Будущее искусственного интеллекта

Поможет ли искусственный интеллект человечеству вступить в золотой век, разрешив наши самые трудные проблемы? Или он является большой угрозой для нас, нашей работы и даже жизни? Существует несколько точек зрения.

Илон Маск, Стивен Хокинг и Билл Гейтс неоднократно выражали опасение на счет ИИ, которое Хокинг выразил так:

Создание искусственного интеллекта будет самым большим событием в истории человечества… К сожалению, оно же может оказаться последним…

Между тем, такие известные люди, как Марк Цукерберг, Эндрю Ын (американский ученый, исследователь ИИ) и Орен Эциони (исполнительный директор Института искусственного интеллекта имени Аллена) считают эту точку зрения надуманной, не стоящей даже опровержения. Цукерберг и вовсе назвал апокалиптические разговоры об угрозе машинного разума «безответственными», а Ын сравнил опасения по поводу ИИ с беспокойством о «перенаселении Марса».

Задачи, выполняемые искусственным интеллектом сегодня довольно банальны. Он фильтруем спам в электронной почте, прогнозирует погоду и указывает дорогу водителям. Такой ИИ принято называть слабым или ограниченным.

Тем не менее, существует вид искусственного интеллекта, который сильно отличается от применяемых сегодня систем. Он носит название общего искусственного интеллекта или AGI (Artificial general intelligence).

Такая машина в своем развитии ни в чем не уступает человеку, она потенциально может решить многие проблемы, с которыми люди пока не могут справиться, такие как: перенаселение, голод, проблема увеличения продолжительности жизни. Этот ИИ вызывает страх и надежду одновременно.

Почему эта технология так по-разному оценивается специалистами? Это сводится к таким ключевым вопросам:

Как далеко мы от общего ИИ?

Сегодня искусственный интеллект обучается людьми вручную с помощью тщательно подготовленного набора данных. Например, чтобы научить компьютер идентифицировать кошек, вам понадобится большая база фотографий, каждая из которых будет помечена как кошка или другой объект, не имеющий к ней отношения. И даже когда вы это сделаете, машина сможет распознавать только кошек. Чтобы научить ее распознавать собак, придется начать все заново.

Чтобы научить машину распознавать кошек, вам понадобится большая база фотографий кошек и тех, кто ими не является

Как быстро будет развиваться общий ИИ?

Специалисты, обеспокоенные появлением общего искусственного интеллекта, полагают, что его уровень развития будет очень быстрым и он выйдет из под нашего контроля.

Представим, что мы создали AGI. Через день он стал умнее в два раза, потом аналогичный уровень будет достигнут им через час, затем через минуту. Через небольшой промежуток времени, ИИ превратиться в суперинтеллект, намного опережающий в развитии самого умного человека на планете примерно также, как мы опережаем в этом муравья.

Насколько сложно создать искусственный интеллект?

Это подводит нас к еще одному вопросу. Люди, считающие общий ИИ угрозой для человечества, склонны думать, что его создание может быть относительно простым. И некоторые основания для этого действительно есть. Исаак Ньютон выделил 3 простых закона взаимодействия физических тел, найдено несколько простых законов регулирующих электричество и магнетизм. Возможно и законы интеллекта вскоре будут открыты? Вдруг нам осталось сделать небольшое усилие, и джинн будет выпущен из бутылки?

Альтернативное мнение предполагает, что наш интеллект строился на фундаменте долгой эволюции, скачками, каждый из которых сложен, и все они должны быть поняты нами, прежде чем мы сможем внедрить их в машины.

Мы уже начали его создание?

Как уже было отмечено, тот ИИ, который у нас есть сегодня, является узкоспециализированным, потому что он может решать только одну конкретную задачу. Является ли слабый, ограниченный ИИ первым шагом к развитию настоящего искусственного интеллекта?

Некоторые считают что да. Что мы стоим на прямом пути к более сложным системам интеллекта, которые буквально будут собраны из узких структурированных частей.

Не все согласны с этим мнением. Скептики такого подхода понимают под узким интеллектом совершенно другую технологию, которая не сможет развиться в нечто настолько сложное, что можно будет назвать полноценным ИИ.

Источники:

http://www.mirprognozov.ru/prognosis/science/preodolenie-riskov-iskusstvennogo-intellekta/
http://medium.com/@darvter/%D0%B8%D1%81%D0%BA%D1%83%D1%81%D1%81%D1%82%D0%B2%D0%B5%D0%BD%D0%BD%D1%8B%D0%B9-%D0%B8%D0%BD%D1%82%D0%B5%D0%BB%D0%BB%D0%B5%D0%BA%D1%82-%D0%B4%D1%80%D1%83%D0%B3-%D0%B8%D0%BB%D0%B8-%D0%B2%D1%80%D0%B0%D0%B3-cfcfdf3ac5cd
http://autonomus.ru/drug-ili-vrag-budushchee-iskusstvennogo-intellekta/