Современное состояние искусственного интеллекта. 129Э. М. Пройдаков современное состояние искусственного интеллекта
 Скачать 394.28 Kb.
|
1 2 145 8. Внедрение ИИ в Интернет вещей (IoT), Индустрию 4.0 и другие современные направления типа цифровой экономики, поскольку обработка громадных объемов данных, генерируемых в таких системах, без ИИ столкнется с большими трудностями. 9. Навигация автономных транспортных средств в среде обитания человека. Это наиболее перспективное с рыночной точки зрения направление должно обеспечить начало широкого внедрения начиная с 2022–2025 гг. беспилотных автомобилей и автомобилей, в которых действия водителя полностью контролируются системой автономного управления. 10. Возможно развитие совершенно нового класса систем типа человеческий интеллект по требованию, услуги роботов по требованию (RaaS) и т.п. 11. Гиперперсонализация услуг. Так как сейчас пользователь постоянно подключен к сети, тона основе его прошлых данных и модели поведения приложения с ИИ должны будут уметь делать предположения о том, какие сервисы ему следует предложить в данных обстоятельствах, какие решения для него будут оптимальны. 12. Борьба с эффектом катастрофического забывания. Когда система с ИИ сталкивается стем, чему она никогда не была обучена, то без переобучения она постоянно будет повторять одни и те же ошибки. Попытка переобучить сегодняшние системы как рази приводит к феномену, называемому катастрофическим забыванием, тек ситуации, когда изучение нового предмета нарушает знание ранее изученных вещей [26]. 13. Разработка нормативно-правовой базы использования роботов. Роботы как субъекты права еще законодательно не оформлены нив одной стране мира, поскольку для этого нужно официально признать, что робот – это непросто вещь, а создание, наделенное пусть и искусственным, но интеллектом, а также собственной волей. Поэтому в мире еще нет законов, которые что-то предписывают либо запрещают роботам напрямую. Перед законодателями лежит отнюдь непростая задача – обеспечить баланс между интересами технического прогресса, безопасности общества и государства, потребностями отдельно взятого человека. В Южной Корее в 2008 г. приняли Закон о содействии развитию и распространению умных роботов. В феврале 2017 г. Европар- ламентом принята резолюция Civil Law Rules on Robotics – Нормы гражданского права о робототехнике [25]. 146 14. Развитие таких направлений, как понимание текста, рассуждения, основанные на прецедентах, и др. По мнению ряда экспертов, текущим разработкам в области ИИ не хватает программно-аппаратных средств физического контакта с окружающим миром, для того чтобы складывалось понимание различия или сходства между виртуальными реальным мирами. Это направление развивается в робототехнике, например тактильная поверхность рук роботов. Тенденции использования систем ИИ в области государственного управления 1. Наиболее востребован ИИ в силовых структурах, поскольку позволяет полиции анализировать в городах видео с множества камер и разыскивать преступников. Компьютерные программы способны сами формировать документы для прокуратуры и обвинительные заключения. 2. ИИ может оказать серьезное влияние на контроль и управление дорожным движением в городах. В ряде стран такие работы уже проводятся. 3. ИИ для МЧС. Например, управлять работой пожарных, предсказывать развитие пожара. 4. Применение в ИИ в судебной системе. Ассистенты судей. 5. Анализ социальных сетей, чтобы предотвращать возможные антигосударственные акции радикальных группировок. 6. В образовании – отслеживание успехов каждого учащегося, целевая помощь в планировании образования и трудовой карьеры. 7. ИИ в системах поддержки принятия государственных решений в экономике и банковской сфере. 8. Другое. Ключевые вызовы и угрозы развития систем ИИ Скепсис по поводу безопасного развития искусственного интеллекта (ИИ) подогревается СМИ и подогревался отдельными группами исследователей и бизнесменов, в частности Биллом Гейтсом, Илоном Маском и Стивеном Хокингом. Популярно утверждение со ссылкой на недавний опрос, проведенный Институтом будущего человека (FHI) из Оксфордского университета в Великобритании, который показал, что «Скайнет» как настоящий искусственный интеллект человеческого уровня может возникнуть около 2028 г. Можно упорно спорить, будет ли это 2028 или 2035 г, или же событие перенесется на более поздний период, однако сама такая возможность вызвала ряд опасений, публичных дискуссий и появление исследований, впрочем, весьма гипотетических. Здесь верно следующее утверждение расхождение во взглядах ИИ в основном идет повременной шкале различаются оценки скорости движения, а не его направления. Мало кто сомневается, что машины будут все больше и больше превосходить нас в плане способностей, характерных именно для людей, или же смогут усиливать их посредством кибернетических технологий. Опасение первое Полная зависимость от компьютеров С каждым днем мир все сильнее и сильнее зависит от компьютеров. Во многих автоматизированных системах решение принимают уже нелюди, а компьютеры, – люди просто не успевают это сделать. Миллиарды компьютеров и микроконтроллеров (их уже на порядки больше, чем обычных компьютеров) – например, управляющие производственными процессами, системами связи, вооружениями, системами жизнеобеспечения и т.д. – работают автономно, безучастия человека. Развитие систем с ИИ приведет к появлению таких систем в качестве руководителей (менеджеров, которые будут руководить работой сотрудников-людей. Плюсы таких решений очевидны – это рост производительности труда и качества продукции, обеспечение безопасности, повышение комфортности жизни и многое другое. Опасения у экспертов вызывает то, что этот процесс цифровизации продолжается и сейчас речь идет об Интернете вещей, Индустрии 4.0 (цифровой экономике. Таким образом, незаметная передача машинам возможности принимать решения продолжается, но последствия данного процесса из-за масштаба системы совершенно не просчитаны. Опасение второе Непредсказуемость Совершенно очевидно, что технический прогресс приводит к неконтролируемому созданию новых и совершенствованию существующих опасных технологий. Судьба и жизнь множества людей а может быть, и всего человечества) может зависеть от действий небольших групп ученых и разработчиков. Возник специальный термин для обозначения возможного этапа развития технологий. Технологическая сингулярность – гипотетический момент, по прошествии которого, по мнению сторонников данной концепции, технический прогресс станет настолько быстрыми сложным, что окажется недоступным человеческому пониманию. Основным представителем этой идеи является Рэй Курцвейл, футурологи изобретатель, автор книги Сингулярность близко, а ныне технический директор области машинного обучения и обработки естественного языка Google. При этом Курцвейл весьма идеализированно утверждает, что интеллект по своей природе не поддается контролю. Данную концепцию поддерживают далеко не все ученые, утверждая, что развитие технологий происходит по кривой ив конце прошлого века началось замедление процесса ускорения. Переход к принятию решений компьютерами был бы безопасным, но основные опасения вызывает непредсказуемость систем, обладающих самосознанием, а также влияние на них разного рода случайностей. Это осложняется грядущим неминуемым интеллектуальным взрывом. Всё дело в потенциальной скорости самоусовершенствования ИИ. Множество разговоров, касающихся ИИ, основано на том, что, обладая способностью к самообучению, ИИ с некоторого момента превращается в искусственный сверхразум, опыта переговоров с которым у человечества нет и, кроме кнопки выключения электропитания, средств воздействия на него также пока не создано. Опасение третье Использование боевых роботов Ссылки на четыре известных закона робототехники писателя- фантаста Айзека Азимова, которым должны подчиняться системы ИИ, вопреки распространенному мнению, не решают проблему первоначально этих законов было три, потом добавится четвертый Робот не может нанести вред человечеству. Уже сейчас понятно, что эти законы не будут реализовываться в каждой ИИ-системе, например в боевых роботах и кибероружии (около 60 стран мира имеют или разрабатывают боевых роботов. Конкретные аргументы против автономных боевых роботов заключаются, например, в том, что они могут игнорировать белый флаг, означающий намерение сдаться в плен, не смогут достоверно отличить мирных граждан от военнослужащих, что может привести к дополнительным человеческим жертвам при использовании таких роботов вовремя боевых действий, и др. Призыв к тому, чтобы прежде чем развивать технологии, которые рано или поздно приведут к созданию сверхразума, поставить вопрос о его отношении к человеку и человечеству, – остается гласом вопиющего в пустыне – слишком большое преимущество получают государства, внедряющие ИИ в робототехнику, системы оружия, медицину, производство и управление. В последнее время в боевых роботах отрабатываются алгоритмы поведения, использующие ложь и обман. Такие методы помогут им обмануть потенциальных врагов – людей и других роботов. Однако при этом возникают этические проблемы, а попадание подобных систем в руки террористов может привести к катастрофическим последствиям. После того как Китай провозгласил лидерство в ИИ своим национальным приоритетом, между ведущими мировыми державами началась борьба за развитие ИИ. Опасение четвертое Социальные риски Искусственный интеллект несет определенные социальные риски – в первую очередь прогнозируемое исчезновение целого ряда профессий (например, водителей, младшего медперсонала и даже журналистов, разобщение людей, а возможно, даже потерю естественных навыков человека. Развитие техники постоянно идет по пути исключения человека из выполняемых им производственных действий. Процессы эти сложные, потому что с исчезновением старых профессий появляются новые, связанные с новой цифровой экономикой, внедрением и поддержанием новой инфраструктуры. Однако в целом потребности в рабочей силе должны сильно уменьшиться, поскольку машины могут заменить человека в большинстве видов активной (не творческой) деятельности. Интеллектуализация, цифровизация и роботизация могут привести как к появлению в обществе социальной напряженности, таки к внедрению мер для замедления указанных процессов. Внедрение компьютерных технологий уже привело к изменению ментальности людей – появлению так называемой клиппо- вости сознания, компьютерной зависимости, уходу в виртуальную реальность и другим негативным явлениям. В настоящее время трудно оценить глобальные последствия подобных факторов, ноне учитывать их нельзя. Опасение пятое Ошибки в системах ИИ В различных системах, управляемых ИИ, рано или поздно могут проявляться ошибки, допущенные при их создании. Это, в частности, связано с проблемами машинного обучения, поскольку большинство широко используемых методов машинного обучения далеки от совершенства и очень требовательны к данным. Небольшие изменения входных данных могут привести к крупными странным изменениям в некоторых шаблонах [4]. Поскольку жизни людей все больше доверяются интеллектуальным системам, то проявление ошибок – это только вопрос времени ошибки будут происходить и при решении ответственных задач, связанных с безопасностью людей. При этом уже сейчас не всегда понятно, каким образом система ИИ выбрала то или иное решение. Для систем с суперинтеллектом такое понимание может оказаться принципиально невозможным, как и исправление ошибочных решений системы. Экзистенциальные риски У органического мозга есть химические и метаболические пределы, ограничивающие его размер и вычислительную мощность. Поэтому, по мнению отдельных исследователей, в долгосрочной эволюционной перспективе люди и все, о чем они когда- либо думали, станут всего лишь примитивной переходной формой, предшествовавшей более глубокому мышлению новой машино- ориентированной культуры, простирающейся в отдаленное будущее и далеко за пределы Земли [5]. Понятно, что подобный сценарий касается достаточно отдаленного будущего при отсутствии развития человеческих рас и крайне нежелателен. На теме искусственного интеллекта сейчас слишком много спекулируют, ив этом кроется серьезная проблема. Сфабрикованные успехи люди принимают за чистую монету, после чего реальные технологии уже не соответствуют их гиперожиданиям. Сначала робот София ездит по всему миру, якобы самостоятельно отвечая на любые вопросы, хотя на самом деле за нее пишут ответы люди, а потом оказывается, что японский Пеппер, подключенный к суперкомпьютеру Watson, не может ответить на простейший запрос покупателя в магазине. Опять жена волне выступлений Маска об угрозах искусственного интеллекта создается впечатление, что умные машины могут захватить нас уже завтра [20]. Здесь перечислены только основные риски, но список ими не ограничивается. Заключение Когда-то считалось, что одна из основных философских проблем в области ИИ – возможность или невозможность моделирования мышления человека, те. вопрос о том, обретет ли искусственный интеллект сознание. Вопрос уже не совсем гипотетический и очевидно имеющий большое значение для прогнозирования ближайшего будущего не только России, но и большей части жителей планеты Земля. Полувековая история развития ИИ все больше убеждает нас в том, что принципиальных препятствий на пути достижения такого результата нет. Скорее всего, ИИ можно сделать и не на нейросетях. Просто нейросети в некотором плане уже освоенное природой решение. Список литературы 1. Баррат Дж. Последнее изобретение человечества Искусственный интеллект и конец эры Homo sapiens. – М Альпина нонфикшн, 2015. – 304 с. 2. Белов С, Катькало В. Дефицит искусственного интеллекта. – Режим доступа https://www.vedomosti.ru/opinion/articles/2017/03/21/681987-defitsit-iskusstvennogo- intellekta 3. Бессмертный И.А. Искусственный интеллект – СПб: СПбГУ ИТМО, 2010. – 132 с. 4. Бринк Х, Ричардс Д, Феверолф М. Машинное обучение. – СПб.: Питер, 2017. – 336 сил (Серия Библиотека программиста. 5. Брокман Д. Что мы думаем о машинах, которые думают Ведущие мировые ученые об искусственном интеллекте. М – Альпина нон-фикшн, 2017. – 552 с. 6. Васильева Д. Тенденции в развитии искусственного интеллекта. – Режим доступа. В прошлом году Китай потратил на исследования и разработки 279 млрд долл. – Режим доступа https://hightech.fm/2018/02/27/279-billion-on-rd 8. Демченко Д. Карта применения технологий искусственного интеллекта Медицина, образование, транспорт и другие сферы. – Режим доступа https:// vc.ru/p/ai-map 9. Дерюгина О. Искусственный интеллект и современное искусство. – Режим доступа http://www.colta.ru/articles/art/14931 152 10. Достижения в глубоком обучении за последний год. – Режим доступа https:// habrahabr.ru/company/mailru/blog/338248/ 11. Жданов В.С. Современное состояние и перспективы развития искусственного интеллекта. – Режим доступа http://emag.iis.ru/arc/infosoc/emag.nsf/BPA/ c1274a3671576d79c325766200406380 12. Иванов А. Искусственный интеллект. Текущие достижения и направления развития Режим доступа https://iot.ru/gadzhety/iskusstvennyy-intellekt-tekushchie- dostizheniya-i-osnovnye-napravleniya-razvitiya 13. Играть на уровне бога Как ИИ научился побеждать человека. – Режим доступа. ИИ помог создать функциональный атлас головного мозга дрозофилы. – Режим доступа https://nplus1.ru/news/2017/07/14/fruit-fly-brain-mapping 15. Искусственный интеллект (ИИ) как ключевой фактор цифровизации глобальной экономики. – Режим доступа https://www.crn.ru/news/detail.php?ID=117544 16. Как искусственный интеллект поможет спасти планету. – Режим доступа https://news.rambler.ru/other/39160318-kak-iskusstvennyy-intellekt-pomozhet-spasti- planetu/ 17. Климов В. Мозг терминатора. – Режим доступа http://www.atomvestnik.ru/ index.php?option=com_content&view=article&id=207:mozg-terminatora&catid= 2&Itemid=133 18. Майер-Шенбергер В, Кукьер К. Большие данные. Революция, которая изменит то, как мы живем, работаем и мыслим / Перс англ. – М Манн, Иванов и Фербер, 2014. – 240 с. 19. Мунгалов Д. Власть над миром Чем закончится гонка за искусственным интеллектом Режим доступа https://sk.ru/news/b/articles/archive/2017/08/23/ vlast-nad-mirom-chem-zakonchitsya-gonka-za-iskusstvennym-intellektom.aspx 20. Нечеловеческая логика Удивят ли нас роботы в 2018 году. – Режим доступа http://www.forbes.ru/tehnologii/357621-nechelovecheskaya-logika-udivyat-li-nas- roboty-v-2018-godu 21. Опасности искусственного интеллекта. – Режим доступа http://senspeople.ru/ opasnosti-iskusstvennogo-intellekta/ 22. Осипов Г. Искусственный интеллект Состояние исследований и взгляд в будущее. – Режим доступа http://www.raai.org/about/persons/osipov/pages/ai/ ai.html 23. Панов АИ. НИУ ВШЭ. Введение в методы ИИ. – 28.09.2017. – Режим доступа. Потопахин В.В. Романтика искусственного интеллекта. – М ДМК Пресс, 2017. – 170 сил. Робот в законе. – Режим доступа https://dailyhype.ru/2017/12/05/robot-v- zakone.html 153 26. Системы ИИ в 2018: Шесть прогнозов. – Режим доступа https://habrahabr.ru/ company/it-grad/blog/344590/ 27. Суперкомпьютер IBM Watson: Революция в диагностике и терапии рака. – Режим доступа http://www.diakonlab.ru/vse_novosti/industry_news/superkompyuter_ ibm_watson_revolyuciya_v_diagnostike_i_terapii_raka/ 28. Хижняк Н. IBM видит искусственный интеллект не как набор обычных алгоритмов Режим доступа https://hi-news.ru/technology/ibm-vidit-iskusstvennyj- intellekt-ne-kak-nabor-obychnyx-algoritmov.html 29. Что такое глубокое обучение (deep learning)? – Режим доступа http://iwtkl. livejournal.com/17828.html 30. DARPA дает 65 млн долл. на продвинутый самообучаемый ИИ. – Режим доступа В 2017 году мировой рынок систем искусственного интеллекта вырастет более чем в полтора раза. – Режим доступа https://www.computerworld.ru/ news/IDC-v-2017-godu-mirovoy-rynok-sistem-iskusstvennogo-intellekta-vyrastet- bolee-chem-v-poltora-raza 32. Kretsu C. Искусственный интеллект в бизнесе – опыт российских брендов. – Режим доступа https://vc.ru/25645-ai-business 1 2 |