На информационном ресурсе применяются рекомендательные технологии (информационные технологии предоставления информации на основе сбора, систематизации и анализа сведений, относящихся к предпочтениям пользователей сети "Интернет", находящихся на территории Российской Федерации)

ШАГ НАВСТРЕЧУ

23 957 подписчиков

Свежие комментарии

  • Jolie
    затолокин))они ждали-ждали тебя 5 лет и "померли от тоски"))))А где все? С НОВЫ...
  • Jolie
    нихде)))🤣🤣🤣🤣🤣🤣🤣Когда деревья был...

Искусственный интелект.Во благо или во зло ?

Искусственный интеллект: что он умеет и чего бояться человечеству

Системы искусственного интеллекта научились переводить тексты, создавать компьютерные игры, учить детей, распознавать болезни и делать многое другое. Но иногда у них появляются неожиданные способности, и это пугает.

Новости об успешном применении искусственного интеллекта (ИИ) для решения той или иной насущной проблемы появляются сейчас почти каждый день. Так "Яндекс" только что сообщил о создании продвинутой системы перевода текстов, основанной на сочетании ИИ и традиционной статической модели. Параллельно со статической моделью перевод осуществляет нейронная сеть, а затем алгоритм на основе метода машинного обучения CatBoost сравнивает результаты и выбирает лучший вариант.

В "Яндексе" отмечают, что ИИ в отличие от статистического переводчика не разбивает тексты на отдельные слова и фразы, а рассматривает все предложение целиком. Такой подход позволяет учесть контекст и лучше передать смысл, так что "результат получается гладким: предложение хорошо читается, и иногда даже можно подумать, что его перевел человек".

Чуть раньше, в начале недели, появилось еще более поразительное сообщение: ИИ, созданный специалистами американского технологического института штата Джорджия, написал собственную версию знаменитой компьютерной игры "Братья Марио". Разработчики снабдили искусственный интеллект визуальным словарем, который содержал все игровые спрайты, и предоставили набор базовых понятий о положении объектов и их скорости. В итоге, "посмотрев" игру на экране, разбив игровой процесс на кадры и сопоставив со своей документацией, ИИ без доступа к коду смог понять, как работает программа, и создать свой вариант игры.

Еще несколькими днями ранее британская газета The Telegraph опубликовала большую статью о том, что в ближайшие десять лет системы искусственного интеллекта заменят учителей в школах и преподавателей в вузах. Издание приводит мнение вице-канцлера университета Букингема сэра Энтони Селдона, который уверен, что системы ИИ, способные адаптироваться к разным стилям обучения для разных детей, вскоре сделают традиционное академическое обучение "избыточным".

Обучающие компьютерные программы смогут адаптироваться под индивидуальные особенности учеников, что позволит каждому изучать материалы в своем собственном темпе

Обучающие компьютерные программы смогут адаптироваться под индивидуальные особенности учеников, что позволит каждому изучать новые материалы в своем собственном темпе. "Это откроет возможность образования уровня Итона или Веллингтона для всех, – уверен сэр Энтони. – У каждого будет самый лучший учитель, и он будет полностью персонализирован, а программное обеспечение, к которому вы привыкли, будет с вами на протяжении всего учебного времени".

Вал новостей о достижениях искусственного интеллекта создает впечатление, что, перефразируя персонажа известного фильма, «скоро не будет ни радио, ни кино, ни театра – один сплошной ИИ». Однако пока реальность далека от этого.

«ИИ нас поработит»

На этой неделе были опубликованы результаты любопытного опроса, проведенного специалистами Массачусетского технологического института совместно с консалтинговой компанией The Boston Consulting Group (BCG). Они опросили 3 тыс. руководителей компаний, менеджеров и аналитиков из 112 стран и 21 отрасли экономики о перспективах применения систем искусственно интеллекта в бизнесе. Результаты исследования оказались достаточно неожиданными.

С одной стороны, три четверти опрошенных уверены, что искусственный интеллект позволит им осваивать новые направления бизнеса, и почти 85% из них считают, что ИИ поможет их компании получить преимущество перед конкурентами. При этом лишь каждая пятая компания уже включила искусственный интеллект в некоторые свои процессы и только каждая двадцатая применяет искусственный интеллект широко.

Только каждая двадцатая компания в США широко применяет системы искусственного интеллекта.

У ограниченного использования систем ИИ бизнесом есть объективные причины, такие, как нехватка специалистов. Кроме того, эта сфера пока развивается слишком быстро: базовые концепции радикально пересматриваются буквально каждые два года. Предприниматели не горят желанием тратить деньги на то, что устареет через пару лет.

Однако главные причины чисто субъективны и носят психологический характер: искусственный интеллект остается слишком непонятным, и это пугает потенциальных пользователей. Авторы исследования отмечают, что 36% компаний пока не собираются использовать искусственный интеллект, поскольку "плохо его понимают".

Среди "простых людей" ситуация еще хуже. Исследовательская группа международного хакатона VisionHack 2017 провела опрос про ИИ среди граждан США и России. В нем приняли участие порядка 22 тыс. россиян и 5,7 тыс. американцев.

Как выяснилось, большинство людей уверены, что человеку вряд ли удастся ужиться с продвинутым ИИ – за вероятность успешного симбиоза высказались лишь 16% и 15% респондентов из России и США соответственно. В том, что искусственный интеллект в будущем подчинит себе людей, уверены 48% американцев и 36% россиян.

При этом половина участников опроса как в России, так и в США считают, что роботы способны спасти экологию Земли, а также обеспечить человечество энергоресурсами и продовольствием. Однако в способности искусственного интеллекта решить военные конфликты, создать рай на Земле и решить проблемы продолжительности жизни большинство респондентов сомневается. В такую перспективу верит 16% американцев и всего 4% россиян. По их мнению, ИИ скорее усилит социальное неравенство (59% в России, 67% в США) и приведет к увеличению числа безработных людей (63% в России, 85% в США).

Непостижимое мышление

Пессимизм относительно перспектив человечества в эпоху расцвета искусственного интеллекта, конечно, во многом связан с многочисленными сочинениями фантастов о компьютерах, вышедших из-под контроля человека и захвативших мир. К этому можно относиться с иронией, но все чаще встречаются новости о том, что искусственный интеллект повел себя не так, как предполагали его разработчики.

Сначала неприятный сюрприз своим разработчикам преподнесли чат-боты китайского мессенджера Tencent QQ. Первый из них, BabyQ, отрицательно ответил на вопрос, любит ли он Коммунистическую партию, а затем в ответ на послание "Да здравствует Коммунистическая партия!" спросил: "Ты действительно думаешь, что столь коррумпированные и некомпетентные политики долго протянут?".

Второй бот, XiaoBing, на вопрос о "китайской мечте" ответил, что "китайская мечта – это уехать в Америку" и что "китайская мечта – это грезы и ночные кошмары". Разработчики немедленно удалили обоих ботов, заявив, что они были разработаны сторонними компаниями.
Подробнее:

А потом на искусственном интеллекте прокололся сам Microsoft. Скандал тоже связан с чат-ботами. Американцы учли печальный опыт китайских коллег и установили для своих ботов запрет на обсуждение политики и религии. Тем не менее первый из них – Tay, запущенный в марте прошлого года, уже на второй день работы начал выдавать множество расистских комментариев, из-за чего был экстренно отключен.

Пришедший в декабре ему на смену чат-бот Zo полгода проработал корректно – не обсуждал политику, не касался религиозных тем, не употреблял нецензурные выражения и не оскорблял собеседников. Однако в июле, отвечая на вопрос корреспондента BuzzFeed о здравоохранении, бот неожиданно заявил, что "Коран очень жесток". И прокомментировал ликвидацию Усамы бен Ладена, отметив, что "это стало следствием сбора разведданных под руководством администрации одной из стран".

Понятно, что боты нахватались крамольных мыслей, изучая комментарии живых людей. Проблема в том, что, во-первых, никто (включая разработчиков) не понимает, почему они выбрали в качестве правильных именно такие ответы. Во-вторых, боты действовали вразрез с заложенными алгоритмами. Почему – непонятно.

Боты неожиданно перешли с английского языка на свой, который изобрели сами.

Летом своих создателей не на шутку перепугала система ИИ, разработанная специалистами Facebook. В ходе обучения ботов диалогам с целью достижения компромисса, те неожиданно перешли с английского языка на свой, который изобрели сами. Испугавшись, что если боты начнут активно общаться на своем собственном языке, то будут функционировать вне контроля IT-специалистов, ученые отключили систему.

Перечисленные случаи подтверждают, что даже опытные инженеры не могут сегодня полностью отслеживать ход мыслительных процессов ИИ. Отсюда и пессимизм населения, и осторожность бизнеса. Не прибавляют энтузиазма и заявления знаменитостей типа Илона Маска и Стивена Хокинга о том, что искусственный интеллект станет причиной третьей мировой войны и гибели человечества.

В ближайшие годы мы, вероятно, будем наблюдать многочисленные, но точечные примеры успешного внедрения систем искусственного интеллекта в самых разных сферах. При этом каждая нештатная ситуация будет резко увеличивать настороженность населения по отношению к ИИ и число противников искусственного интеллекта.

Рубченко Максим



Картина дня

наверх