Искусственный интеллект (ИИ) - тема, которая уже давно не сходит со страниц научно-популярных журналов и постоянно затрагивается в кино и книгах. Чем больше специалисты развивают эту область науки, тем большими мифами она покрывается.

Развитие и будущее искусственного интеллекта волнует и тех, кто стоит у руля государства. Не так давно президент РФ Владимир Путин посетил офис «Яндекса» в день 20-летия компании, где ему объяснили, когда ИИ превзойдет человеческий интеллект.

Все, кто хоть немного проникает в суть потенциала искусственного интеллекта, понимают, что оставлять без внимания эту тему нельзя. Это не только важный вопрос для обсуждения, но и, наверное, один из самых значимых в контексте будущего.

Что такое искусственный интеллект и чего на самом деле боятся люди, рассказал «Снег. TV» специалист по методам машинного обучения Сергей Марков.

Как говорил Джон Маккарти, изобретатель термина «искусственный интеллект» в 1956 году, «как только он заработал, никто больше не называет его ИИ». ИИ уже вовсю реальность: калькуляторы, Siri, самоуправляемые автомобили и т. д., а в него все равно не верят. Почему так происходит, что люди отрицают существование ИИ?

Главным образом по причине терминологической путаницы, так как разные люди вкладывают в понятие «искусственный интеллект» совершенно разный смысл.

В науке искусственным интеллектом называют систему, предназначенную для автоматизации решения интеллектуальных задач. В свою очередь, под «интеллектуальной задачей» понимают такую задачу, которую люди решают при помощи своего, естественного интеллекта.

Легко заметить, что такое определение искусственного интеллекта чрезвычайно широко - под него попадает даже обычный калькулятор, т. к. арифметические задачи по сути тоже интеллектуальные, человек решает их при помощи своего интеллекта.

Поэтому внутри понятия «искусственный интеллект» была проведена важная граница, отличающая прикладной или, как еще говорят, слабый искусственный интеллект, предназначенный для решения какой-либо одной интеллектуальной задачи или небольшого их множества, от гипотетического сильного ИИ, также называемого универсальным искусственным интеллектом (англ. - artificial general intelligence).

Такая система, когда она будет создана, будет способна решать неограниченно широкий круг интеллектуальных задач, подобно интеллекту человека. С этой точки зрения калькулятор, который способен считать куда быстрее человека, или программа, выигрывающая у человека в шахматы, - это прикладной ИИ, гипотетический же сверхразум будущего - сильный ИИ.

Когда читаешь про разные открытия и разработки в области ИИ, понимаешь, что всё в основном происходит в США или Азии. А как обстоят дела в России? Есть у нас какие-то наработки?

Область компьютерных наук в наши дни интернациональна, многие наши специалисты работают над созданием и совершенствованием различных моделей машинного обучения в составе как российских, так и международных команд. У нас традиционно сильная математическая и алгоритмическая школа, созданы исследовательские центры мирового уровня как в ведущих вузах, так и в некоторых частных компаниях.

Но давайте говорить начистоту - бюджеты, выделяемые в нашей стране на науку и образование, не идут ни в какое сравнение с научными бюджетами наиболее развитых стран. Доходы бюджета РФ в 2016 году составили около 200 миллиардов долларов США, в то время, как только на оборону США тратят сумму в три раза большую, чем весь российский бюджет.

Весь бюджет российской науки сопоставим с бюджетом одного лишь вуза из Лиги плюща. В безденежные 90-е страну покинули многие ведущие специалисты, была нарушена преемственность ряда научных школ. Также было практически утрачено собственное производство электроники.

В то время как мировые лидеры ИТ ведут гонку в создании специализированных процессоров для обучения нейронных сетей, нам остается лишь сфера разработки алгоритмов и программного обеспечения. Впрочем, и в этой области нами были достигнуты весьма впечатляющие успехи.

Например, команда под руководством Артема Оганова создала систему USPEX, способную предсказывать кристаллические структуры химических соединений, что привело к настоящей революции в современной химии.

Команда Владимира Махнычева и Виктора Захарова с ВМК МГУ при помощи созданной ими системы, а также суперкомпьютеров «Ломоносов» и IBM Blue Gene/P впервые смогла рассчитать 7-фигурные шахматные окончания.

Нейронные сети «Яндекса» распознают и синтезируют речь, генерируют музыку в стиле «Гражданской обороны» и композитора Скрябина. Сильная команда специалистов по ИИ и машинному обучению создана и в Сбербанке.

Словом, заметные успехи есть и у нас в стране.

Чем быстрее развиваются технологии искусственного интеллекта, тем сильнее людей захватывает опасение - как быстро они останутся без работы. Все действительно так плохо?

© Marcel Oosterwijk/flickr.com

И да и нет. Человечество уже несколько раз сталкивалось с возникновением технологий, революционно изменивших всю производственную сферу.

Так было с паровым двигателем в эпоху промышленной революции, практически уничтожившим многие профессии (в основном связанные с примитивным физическим трудом), так было с электронными вычислительными машинами, которые заменили человека в задачах, основанных на поточных математических расчетах.

В XV-XVIII веках, когда в Англии «овцы съели людей», социальные последствия были действительно катастрофическими. Англия потеряла, по разным оценкам, от 7 до 30% своего населения. Властная элита того времени была всерьез озабочена тем, куда девать лишних людей. Джонатан Свифт откликнулся на эти искания юмористическим памфлетом, в котором предлагал употреблять детей бедняков в пищу.

Однако в наши дни мы видим, что на смену вымершим профессиям пришли новые, и население Земли куда больше, чем в XVIII веке. В XX веке последствия автоматизации были уже не столь катастрофичны с социальной точки зрения. Однако недооценивать опасность все-таки не стоит.

«Через 30 лет роботы смогут делать практически всё, что умеют делать люди, - такой прогноз дал Моше Варди (Moshe Vardi), профессор вычислительной инженерии и директор Института информационных технологий Кена Кеннеди (Ken Kennedy Institute for Information Technology) при Университете Райса (William Marsh Rice University). - Это приведет к тому, что более 50% жителей Земли станут безработными».

Роботы забирают работы

На днях председатель комитета Госдумы по информационной политике, информационным технологиям и связи Леонид Левин заявил, что для России является важной проблема вытеснения рабочей силы искусственным интеллектом.

Рано или поздно людей заменят автоматизированной системой, и на рынок выплеснется 2% работоспособного населения страны. Именно поэтому о том, как трудоустроить тех, кто потеряет работу вследствие развития цифровых технологий, нужно думать уже сейчас, сказал Левин.

По мнению председателя, уже в скором будущем мы столкнемся с ростом безработицы. Но действительно ли роботы «отберут» наши рабочие места и стоит ли беспокоиться по этому поводу, рассказал «Снег.TV» специалист по машинному обучению Сергей Марков.

Сергей, даже сейчас уже есть «мертвые профессии», которые не требуют человеческого труда, хотя, казалось бы, лет 10 назад никто и не думал, что, например, кондуктора скоро станут ненужными. А какие еще профессии вытеснят технологии?

Мы приближаемся к тому времени, когда машины превзойдут людей почти в любом деле. Я считаю, что обществу нужно посмотреть в лицо этой проблеме до того, как она встанет во весь рост. Если машины будут способны делать почти всё, что умеют люди, что тем останется делать? – сказал Моше Варди, профессор вычислительной инженерии и директор Института информационных технологий Кена Кеннеди при Университете Райса.

Долгое время на пути автоматизации стояли технологические ограничения: машины не могли распознавать образы и речь, не могли говорить, не могли достаточно хорошо понимать смысл высказываний на естественном языке, не имели достаточно данных для того, чтобы научиться многим привычным для человека вещам.

Благодаря последним достижениям в сфере искусственного интеллекта многие из этих ограничений фактически оказались сняты. Кроме того, многие профессии сами претерпели трансформацию, что сделало их более удобными для автоматизации.

Например, современный офисный клерк ведет переписку не в бумажном, а в электронном виде, бухгалтер выполняет проводки не на бумаге, а в бухгалтерской программе, оператор станка управляет станком зачастую не при помощи рукоятей, а при помощи управляющей программы. Поэтому сейчас задача автоматизации во многих профессиях перестала быть научной и стала чисто инженерной.

Правда, пока что производственная сфера, связанная с ИИ, скорее создает рабочие места - нужны специалисты в области машинного обучения и подготовки данных, сотрудники для разметки обучающих массивов, специалисты по внедрению и т. д. Но в какой-то момент «электроовцы» определенно начнут есть людей, и о последствиях нужно позаботиться уже сейчас.

При этом важно понимать, что остановить технический прогресс нельзя, и попытка это сделать обернется куда более катастрофичными последствиями.

Мы сможем когда-нибудь полностью довериться роботам (ИИ) или все-таки в любом деле должен быть человеческий фактор?

У этого вопроса есть несколько аспектов. С одной стороны, люди в прошлом с опаской относились практически к любой технике. Первый лифт, первый автомобиль, первый поезд или самолет - всё это когда-то было непривычным и многим казалось опасным. Да во многом опасным и было - техногенные катастрофы унесли немало жизней.

И тем не менее в наши дни все эти вещи стали привычными и уже не вызывают сильного страха. В этом смысле - наши потомки будут относиться к системам ИИ более спокойно. Люди порой склонны мистифицировать вещи, которые им непонятны. Дикарь думает, что в паровозе живет злой дух, а современный обыватель думает, что наши системы ИИ обладают сознанием, хотя это далеко не так.

С другой стороны, я не думаю, что универсальные системы ИИ когда-либо станут частью нашей производственной сферы. На мой взгляд, будущее скорее за синтетическими системами - то есть за объединением человека и машины в единый организм. В этом смысле искусственным интеллектом будущего будет усовершенствованный человеческий интеллект.

Кстати говоря, человеческий интеллект тоже не совсем корректно называть естественным. Ребенок от рождения не обладает интеллектом, всему его учит общество, родители, окружающая среда. В этом смысле мы с вами все, по сути дела, «искусственные интеллекты», и наши страхи, связанные с ИИ, во многом являются страхами перед самими собой.

Последнее время многие ученые, например Стивен Хокинг, Билл Гейтс или тот же Илон Маск, начали паниковать, что ИИ обрекает человечество на гибель, а будущее они видят какой-то антиутопией. Стоит ли воспринимать такие прогнозы всерьез?

Честно говоря, я бы не спешил всерьез пугаться этих заявлений. Стивен Хокинг, безусловно, не является специалистом в области ИИ, как, в общем-то, и Илон Маск.

На другой чаше весов высказывания таких людей, как, например, Эндрю Ын - американский ученый в области информатики, доцент Стэнфордского университета, исследователь робототехники и машинного обучения, ведущий специалист лаборатории искусственного интеллекта китайской корпорации Baidu.

Ын, говоря о проблеме безопасности ИИ, сравнивает ее с проблемой перенаселения Марса - конечно, мы когда-нибудь колонизируем Марс, и тогда, возможно, в какой-то момент там возникнет проблема перенаселения. Но стоит ли заниматься ей сегодня?

Марк Цукерберг также довольно скептически отнесся к заявлениям Маска. «Искусственный интеллект сделает в будущем нашу жизнь лучше, а предсказывать конец света очень безответственно», - заявил он.

Лично я думаю, что высказывания Маска стоит рассматривать в прагматическом ключе - Маск хочет застолбить эту тему и в идеале получить от государства средства для ее разработки.

Неужели всё так безоблачно и не о чем беспокоиться?

Реальные опасности, связанные с развитием ИИ, лежат, на мой взгляд, совсем в иной плоскости, чем об этом принято думать. Главные риски связаны не с тем, что мы создадим «Скайнет», который поработит человечество. Риски от внедрения технологий ИИ и машинного обучения куда более прозаичны.

Доверяя решение важных вопросов тем или иным математическим моделям, мы можем пострадать от ошибок, допущенных при их разработке. Искусственный интеллект, воспроизводящий действия людей-экспертов, унаследует их ошибки и предубеждения. Недоработки в системах управления производством или транспортом могут привести к катастрофам.

Вмешательство злоумышленников в работу жизненно важных систем в условиях тотальной автоматизации может повлечь опасные последствия. Чем сложнее системы, тем больше в них может быть потенциальных уязвимостей, в том числе связанных со спецификой тех или иных алгоритмов искусственного интеллекта.

Безусловно, для управления этими рисками следует создавать законодательную базу, разумные регламенты безопасности, специальные методы для выявления уязвимостей. Одни системы ИИ будут использоваться для контроля других. Возможно, код жизненно важных систем будет обязателен к публикации для независимого аудита. Словом, специалистам в этой сфере предстоит еще много работы.

Пытаются приблизиться к ней. Но что представляет собой искусственный интеллект с точки зрения философа? Т&P публикуют статью доктора философских наук Сергея Голенкова, который с помощью Канта и Делеза ставит под сомнение саму возможность создания мыслящей машины.

Проблема сознания заключается в парадоксальной ситуации: мы, разумные существа, обладаем сознанием, оно у нас есть, но мы не знаем что такое сознание. Мамардашвили, определяя эту ситуацию, писал: «Сознание - это парадоксальность, к которой невозможно привыкнуть». Раскрывая особенность парадоксальности сознания, он указывал на две трудности в изучении сознания. Первая состоит в том, что само понятие «сознание» является предельным философским понятием, таким как понятие «бытие». А такого рода понятия не поддаются классическому родо-видовому определению. Другая трудность проистекает из того, что сознание «весьма странное явление, которое есть и которое в то же время нельзя ухватить, представить как вещь». Однако, есть еще одно обстоятельство, делающее проблему сознания особенно сложной. Дело в том, что само сознание всегда экранировано содержанием сознания. Поясню подробнее суть этой трудности.

В свое время Кант обсуждая вопрос о природе единства содержания мысли, писал в «Критике чистого разума», что условием единства содержания нашей мысли является «трансцендентальное единство апперцепции». О чем у него здесь идет речь. Вот в руке у меня лист бумаги. Эту ситуацию содержательно можно выразить следующим образом: «сейчас я держу в руке белый лист бумаги». Это словесное выражение будем считать содержанием мысли. В этой мысли соединены содержательно различные элементы. В ней присутствует представление о времени (слово «сейчас»), представление обо мне («я»), об одном из органов моего тела («рука»), представление о некой вещи («лист бумаги»), представление о свойстве этой вещи («белый»), представление о пространственном расположении листа бумаги относительно моего тела («в руке»). Кроме выраженных представлений, в этой мысли имплицитно содержаться, то есть словесно не выражены, и другие элементы ситуации, например, качество листа бумаги. Очевидно, что это все качественно (и потому содержательно) разные представления. Одни источником имеют тактильные ощущения (качество бумаги: гладкая/шероховатая), другие моторно-двигательные (держу в руке), третьи зрительные (белый цвет листа) и так далее.

Кант задает вопрос, что позволяет разным представлениям, из которых состоит всякая мысль, образовывать целое единство этой мысли? И он отвечает - трансцендентальное единство апперцепций. Это означает, что все данное в наглядном представлении многообразие объединяется при помощи трансцендентальной апперцепции в понятие объекта. Кант говорит, что это объединение есть акт, который сопровождает всякую содержательную мысль и может словесно выражен так: «Я мыслю». Иными словами, чтобы мысль о том, что сейчас я держу в руке белый лист бумаги, не распадалась на различные по содержанию представления, а была одной мыслью, эта мысль должна всегда сопровождаться актом мышления «Я мыслю».

Это «Я мыслю» и есть действие сознания в нас. Но трудность познания этого акта состоит в том, что акт «Я мыслю» всегда экранирован содержанием сознания «сейчас я держу в руке белый лист бумаги». И даже если мы обратим внимание на сам этот акт, то он становится содержательной мыслью, которая, чтобы быть единой, сама должна сопровождаться актом «Я мыслю». В этом случае мы имеем следующее словесное выражение «Я мыслю, что Я мыслю», где второе «Я мыслю» уже содержание мысли, для которой условием является акт первого «Я мыслю». Несмотря на то, что оба эти выражения одинаково составлены из одинаковых слов, это, несомненно, две разные «вещи». Первая выражает акт мысли, вторая - ее содержание. И для их познания нужны разные методы и инструменты. Здесь мы попадаем в ситуацию, которая хорошо известна в физике элементарных частиц (квантовой механике), когда невозможно одновременно, одними и теми же приборами, одними и теми же методами описать положение элементарной частицы и ее импульс (то есть указать вектор ее движения и скорость). Либо мы знаем, где находиться частица, но не знаем ее скорости в данный момент и направление движения, либо знаем вектор и скорость, но не знаем ее место положения.

Акт «Я мыслю» представляет собой некое существование, соотнесенное с сознанием, которое Мамардашвили и Пятигорским было названо «состояние сознания». Термином «состояние сознания» они обозначали по преимуществу независимое от любого мыслительного содержания «состояние нашего психофизиологического механизма, соотнесенного с сознанием». Замечу, что состояние, описываемое термином «мыслю» («Я мыслю»), принадлежат к тому же классу, что состояния «наблюдаю», «вспоминаю», «воспринимаю», «воображаю» и тому подобное. Это все состояния, так или иначе, связанны с сознанием, сознание в них присутствует.

Присмотримся теперь внимательнее к этому классу состояний сознания. В качестве примера рассмотрим состояние сознания «Я наблюдаю стол». Что мы в нем можем обнаружить? Прежде всего, то, что оно по своему составу не однородно. Есть элемент в этом состоянии, который связан с внешне данной вещью, данность которой определяет содержание нашего состояния. То, что мы наблюдаем (мыслим, вспоминаем и так далее) - стол. В акте наблюдения то, что обозначено термином «стол» составляет содержание этого акта, этого состояния сознания. И это содержание наблюдения (содержание состояния сознания) не определено внешней вещью. Стол, как наблюдаемое мною тело, не задает содержание того, что именно я наблюдаю.

Отсюда следует, что содержание наблюдения тела как явления осознаваемого, определяется не самим этим телом, а полностью задается сознанием. Особо подчеркну, не существование тела задается сознанием, а содержание наблюдения тела. Это означает, что в состоянии сознания «Я наблюдаю стол», стол выступает содержательным элементом наблюдения и, стало быть, находится «в» сознании как содержание наблюдения. Следуя традиции после Гуссерля, наблюдаемый стол является интенциональным предметом. Интенциональный предмет, в нашем случае «стол», составляет содержание сознания, он коррелятивен с реально существующим столом, но задан сознанием.

Обратим внимание на то, что пребывание в состоянии «Я наблюдаю стол» содержит в себе два «элемента»: реальный стол и «интенциональный» стол. А между ними зазор. И этот зазор непроходим для мысли, точнее, он не может быть преодолен интеллектуальными средствами, так как в него включены элементы, не принадлежащие мышлению. Какие это элементы? Мамардашвили и Пятигорский в своей работе называли один такой элемент - это «наш психофизиологический механизм». Очевидно, что без него невозможно состояние «Я наблюдаю стол». Укажу еще на ряд таких элементов. Состояние наблюдения (восприятия, воображения, мышления и так далее) - это состояние нашего существования, бытийное состояния. Специфика нашего существования - сознательного существования - в философской традиции после Хайдеггера определяется термином «экзистирование». Экзистирование - это существование способом понимания собственного существования. В чем специфика такого существования, «существования пониманием»? Что такое понимание?

Понимание можно рассмотреть как «внимание», «внятие», «принятие», «впускание», «ассимиляцию» некоего сущего в себя. Когда я понимаю некое сущее, например, когда я понимаю (или не понимаю) предмет своего наблюдения как стол, то тем самым я принимаю (или не принимаю) это сущее как/в содержание моего состояния. Иначе говоря, понимание здесь выступает своеобразным испытанием как модусом моего бытия, экзистирования. И этот модус по природе своей амбивалентен. С одной стороны, понимая (внимая, принимая и так далее) сущее, я испытываю себя на способность понять сущее, а, с другой - я испытываю само сущее на его истину, выведывая ее у сущего. Понимание предстает в этом случае в виде проверки на способность быть и себя, и сущего. Иными словами, в состоянии сознания в качестве необходимого элемента включены не только интеллектуальные процедуры, но и мои бытийные (и онтологические, и онтические) характеристики. В частности в понимании «участвует» такая структура как бытие-с-другим. Рассмотрим подробнее, каким образом эта бытийная структура определяет состояния сознания и его содержания.

В качестве примера такого влияния сошлюсь на анализ восприятия - а это состояние, как я уже отмечал выше, того же класса, что и наблюдение - в работе Жиля Делеза «Мишель Турнье и мир без Другого». В этой работе Делез показывает как другой в качестве элемента совместного бытия определяет мое восприятие. Прежде всего, отмечает Делез, другой оказывает организующее воздействие на мое поле восприятия предметов и идей. Это организующее воздействие проявляется в том, что узнаю или чувствую воспринимаемый предмет в качестве определенного предмета, то есть такого, который отличается от другого предмета. Я могу не знать и не понимать существа отличия одного предмета от другого. Я лишь фиксирую само отличие. Вот именно для восприятия отличия, границы другой и предоставляет мне возможность различения. Он выступает условием способности различения, разграничивания.

Рассмотрим этот момент подробнее. Разделим акт восприятие на последовательные шаги от начала до узнавания предмета: акт получения перцептивных ощущений от воспринимаемого предмета (выявление фигуры на фоне); акт «фокусирования» внимания на выделенном предмете (все остальные предметы сливаются в неразличимый фон); акт терминирования выделенного предмета, его словесное обозначение и акт интерпретации (то есть «узнавания» предмета), как акт включения значения (оно фиксировано термином) предмета в систему уже существующих значений (например, в систему языка). Таким образом, мы имеем четыре шага определения предмета в восприятии. Отвлечемся сейчас от того, что можно по-иному членить этот процесс. Здесь важно, что этот процесс имеет шаговую (или звеньевую, или этапную - или какую-нибудь еще) структуру. Важно подчеркнуть то обстоятельство, что между шагами, звеньями, этапами существуют зазоры. Они важны как раз тем, что в этих зазорах пребывает нечто, что, с одной стороны, не является структурным элементом восприятия, а с другой - без них восприятие не может быть реализовано. Другой как раз и выступает необходимым элементом восприятия. Поясню этот тезис.

Посмотрим на зазор, который находиться между актом сосредоточения внимания на предмете и актом называния предмета, наделения его именем. Для того чтобы этот переход состоялся необходимо, чтобы уже существовали слова, существовала речь, существовал язык, существовала культура называния, культура говорения. А все это возможно, только если существует другой. Более того, существование другого уже необходимо между первым и вторым шагом, чтобы состоялся процесс узнавания воспринятого предмета. Это Делез и имеет в виду, когда говорит, что другой выступает условием различения предметов и идей.

Фигуру другого в процессе восприятия нельзя интерпретировать «ни как объект в поле моего восприятия, ни как субъект меня воспринимающий» (хотя эмпирически, если другой человек находится в момент моего восприятия, он может быть такими объектом и субъектом). Так чем же в таком случае является другой? Делез пишет: «… Это прежде всего структура поля восприятия, без которой поле это в целом не функционировало бы так, как оно делает». Без этой структуры - структуры другого - восприятие не могло бы состояться. Эту структуру другого он называет «априорный Другой». Априорный, поскольку эта структура уже существует до всякого реального восприятия, выступая его условием. Функция этого априорного Другого (или структуры другого) состоит в том, чтобы выступать основанием других, которые будут осуществлять эту структуру в каждом конкретном поле восприятия. Иными словами, эта структура дает возможность состояться опыту конкретного восприятия. Поэтому эту структуру - структуру другого - Делез называет «структурой возможного». «Другой как структура, это выражение возможного мира».

Интересно посмотреть, что производит структура другого («априорный Другой» у Делеза) в таком состоянии сознания как восприятие. Главное следствие действия этой структуры, считает Делез, это разграничение моего сознания и его объекта. Поскольку другой вносит в мир различения, границы, кромки, переносы, которые обеспечивают появление предмета в поле восприятия, то этот предмет, в качестве воспринимаемого отделен от сознания и ему противостоит. Иначе говоря, возникают феномены «воспринимающий» (то есть сознание) и «воспринимаемый» (то есть предмет). До этого сознание и его объект были слиты в одно целое и их не существовало в качестве отдельных феноменов. Именно другой обеспечивает разграничение сознания и его объекта. Далее, становление разграничения сознания и его объекта есть одновременно возникновение пространства, так как возникают различные места - «здесь» и «там». Мое сознание (или «воспринимающий Я») занимает место «здесь», а воспринимаемый предмет занимает место «там». Наконец, появление другого превращает мой мир в прошлый мир, опрокидывает мое сознание в позицию «я был». Другой приносит с собой возможный мир и тем самым вносит в мир временные разграничения. Возникает время в своих феноменах прошлого, настоящего и будущего.

Упомяну еще один элемент, который находится в состоянии сознания и обеспечивает как само существование этого состояния, так и его содержание. В своей работе почти полувековой давности «Анализ сознания в работах Маркса» Мамардашвили показал, что сознание, по Марксу, есть «функция, атрибут социальных систем деятельности», и что содержания и формообразования сознания производятся «из переплетения и дифференциации связей системы (социальной деятельности - С.Г.), а не из простого отображения объекта в восприятии субъекта». Иными словами, содержания сознания (и мышления, как феномена сознания) являются производными от системы социальной деятельности человека. Таким образом, состояния сознания включают в себя как необходимый элемент социальную составляющую индивидуального бытия, то есть ту систему общественных связей, в которую включен индивид как социальный субъект. Элементы, которые были рассмотрены - зазор между реальной вещью и интенциональным предметом, социальная система, структура другого в работе сознания (и мышления) - свидетельствуют о неконтинуальности сознания (мышления).

Зазор, который содержит в себе неинтеллектуальные компоненты не может быть преодолен за счет работы мысли. Он преодолевается лишь индивидуальным усилием быть - испытанием бытия/бытием - как актом не интеллектуальным, а экзистенциальным. Иначе говоря, «работа» мысли требует в качестве необходимых условий жизненные (физиологические, психические, социальные и так далее), а не только интеллектуальные элементы. Это обстоятельство и позволяет поставить под сомнение попытки создания искусственного интеллекта.

Читайте в Bookmate:

В течение многих десятилетий такое понятие, как искусственный интеллект принадлежало исключительно научной фантастике и вдохновляло писателей и сценаристов на создание сюжетов, описывающих драматические взаимоотношения людей и разумных машин. Все начало меняться несколько лет назад, а начало 2016 года стало бенефисом реально существующих систем искусственного интеллекта..

Искусственный интеллект наступает

Если быть точным, то череда информационных поводов, каждый из которых достоин большой статьи, началась в декабре 2015 года, когда культовая фигура современного хайтека предприниматель Илон Маск (Tesla Motors, SpaceX) вместе с соснователем PayPal Питером Тилеми и главой венчурного фонда Y Combinator Сэмом Альтманом заявили о создании некоммерческой организации OpenAI и об инвестициях в нее в размере миллиарда долларов.

OpenAI – это исследовательская компания, занимающаяся ИИ (искусственным интеллектом). По заявлению учредителей, цель компании – развивать открытый и дружественный искусственный интеллект. Открытость призвана избежать концентрации власти, которую дает ИИ, находящийся в одних руках.

4 января в Лас-Вегасе в рамках СЕS – крупнейшей мировой технологической выставки, глава компании NVIDIA Дженсен Хуанг провел впечатляющую презентацию нового автомобильного суперкомпьютера Drive PX2, позволяющего управлять автомобилем без водителя, рассказал о разработках NVIDIA в области глубинного машинного обучения и компьютерного зрения.

А 15 марта состоялась наверно самая яркая в современной истории демонстрация возможностей современного искусственного интеллекта. ИИ AlphaGo компании Google обыграл со счетом 4:1 сильнейшего игрока в Го, Ли Седоля. Призовой фонд матча составил $1 млн.

Го – древняя китайская настольная игра, популярная не только в юго-восточной Азии, но и во всем мире. Ее особенность заключается в том, что по количеству вариантов ходов, их 200 во время каждого хода, она значительно превосходит шахматы. Даже самый мощный суперкомпьютер в мире, а тем более человек, не способен просчитать все варианты развития партии. Соответственно, важнейшими качествами сильнейших игроков в Го является развитое стратегическое мышление и хорошая интуиция. То есть, ИИ превзошел человека в таком, казалось бы, чисто человеческом качестве, как интуиция.

Еще одним интересным событием, непосредственно связанным с искусственным интеллектом, стал проводящийся в Японии литературный конкурс имени писателя-фантаста Хоси Синъити. В этом году из полутора тысячи произведений 11 было написано с помощью ИИ, а повесть "День, когда компьютер написал роман" вышла в финал конкурса. Повесть была написана искусственным интеллектом, разработанным в университета Хакодате.

Отличным прогнозистом оказался китайский ИИ Aliyun, созданный интернет-гигантом Alibaba Group. В начале апреля он смог предсказать победителя и финалистов популярного в Китае музыкального шоу "Я певец". Победитель этого шоу определяется слепым (без предварительных совещаний) голосованием 500 судей.

Говоря о искусственном интеллекте, стоит отметить один поразительный момент. Несмотря на колоссальный прорыв, который произошел за последние 30 лет в области информационных технологий, и триллионы инвестиций в IT, работы по разработке ИИ все это время испытывали хроническое недофинансирование и только в последние несколько лет туда пришлю серьезные деньги.

Что в данном случае первично, инвестиции, которые принесли отдачу, или успехи разработчиков ИИ, которые заметил большой бизнес, в общем, неважно. Главное, что дело сдвинулось с мертвой точки.

Что же вообще такое – искусственный интеллект?

Академического определения ИИ еще не сложилось, однако специалисты считают, что отличительная особенность искусственного интеллекта – способность, в отличие от обычной компьютерной программы, к выполнению интеллектуальных и творческих задач.

Современных концепций создания ИИ довольно много. Но на самом базовом уровне они отличаются тем, что одни пытаются копировать человеческое мышление – семиотический подход, а другие строятся по принципу биологических нейронных сетей, моделирующих интеллектуальную деятельность на основе природных эволюционных алгоритмов – биологический подход.

На сегодняшней день самые заметные успехи достигнуты во втором направлении. Машинное обучение, а точнее глубинное машинное обучение (Deep Learning) – сейчас считается самым перспективным в создании ИИ.

ИИ, созданные по такому принципу, не просто учатся, они способны обучатся cамостоятельно, без участия людей. Процесс обучение такой системы больше напоминает не обучение человека, а ускоренный в миллионы раз процесс эволюции биологических организмов.

В чем же отличие, созданных фантастами и транслируемых поп-культурой, образов могучих разумных машин из "Бегущего по лезвию бритвы", "Терминатора" и "Матрицы" от реально существующих искусственных интеллектов?

Разумеется в научно фантастике необходимость создания драматических сюжетных коллизий диктует практически обязательный конфликт между машиной и человеком. Но главное не это.

Во-первых, все художественные концепции искусственного интеллекта антропоцентричны. То есть, такие ИИ напоминают своим поведением людей, а взаимоотношения человека и машины в научной фантастике практически ничем не отличаются от взаимоотношений людей разных национальностей, религий и культур. Но если посмотреть на самые успешные из уже существующих ИИ, то они не руководствуются человеческой логикой, а базируются на искусственных нейронных сетях и, образно говоря, напоминают не человека, а разумную планету. Отдадим, впрочем, должное современным НФ-писателям, такие сюжеты в современной фантастике тоже есть.

Фото: YAY/ТАСС/William Attard McCarthy

Во-вторых, все эти умные машины из фантастических фильмов и книг способны сами ставить себе цели и пытаться их добиться.

Реально же существующие ИИ-системы даже в теории на такое не способны.

Разработчик искусственного интеллекта компании "Яндекс" Александр Крайнов считает это принципиальным моментом, отличающим мышление ИИ от человеческого. ИИ может решать только те задачи, которые перед ним ставит человек и неспособен к целеполаганию.

А может ли ИИ представлять опасность?

Разумеется, может. Как представляет собой опасность любое выдающееся научное достижение. Классический пример – открытие процесса расщепления атомного ядра, которое привело, как к созданию ядерной энергии, так и к созданию ядерного оружия. Более актуальный пример – Интернет, с одной стороны давший так много новых возможностей людям, с другой – породивший киберпреступность.

ИИ тоже может быть опасен. Но не как враждебная людям сила. Он может быть опасен именно как инструмент в руках злоумышленников. Поскольку обучают ИИ люди, они же и задают параметры обучения. Соответственно, человек и отвечает за то, какой ИИ мы в итоге получаем.

Процесс обучения ИИ интересен еще и тем, что люди не только задают параметры обучения, но и сами становятся объектами и примерами для обучения искусственного интеллекта.

Тот же AlphaGo, перед тем как обыграть Ли Седоля, проанализировал тысячи партий лучших игроков в ГО, а потом сыграл еще миллионы партий сам с собой.

Есть и другой пример обучения ИИ, несколько менее удачный, но тоже очень яркий. Это англоязычный чатбот Тэй компании Microsoft, который запустили в социальной сети Twitter в образе девушки тинэйджера. За 24 часа Тэй, общаясь с пользователям, превратилась из дружелюбного собеседника в малоадекватное существо и стала публиковать посты антисемитского, расистского и шовинистического содержания. В итоге компания удалила твиты Тэй и принесла извинения пользователям.

Причем ранее чатбот Сяоайс, созданная на базе того же самого ИИ, блестяще работала в китайском сегменте интернета и пользовалась колоссальной популярностью. Сяоайс заработала в мае 2015 года в социальных сетях WeChat и Weibo, а позднее, придав ей визуальный образ, Сяоайс сделали ведущей выпуска прогноза погоды на китайском телеканале. За несколько месяцев она вошла в десятку самых популярных персон соцсети Weibo и провела несколько миллиардов диалогов с людьми.

Тем удивительней на первый взгляд неудача Тэй в Twitter. Причина, однако, оказалось очень простой – разная аудитория Twitter с одной стороны и WeChat и Weibo – с другой. Общаясь и обучаясь на более агрессивных и провокационных диалогах в Twitter, Тэй сама стала и вести себя как ее собеседники.

На сегодняшнем уровне развития, разумеется, никакой ИИ не может представлять собой опасность. Но даже в теории создать злой ИИ может только человек, и научить плохому ИИ может тоже только человек.

Что может искусственный интеллект?

По мнению представителя компании NVIDIA Ирины Шеховцовой все, что связано с распознаванием информации, продуктов, музыки, речи, жестов, видео – все это будет рано или поздно управляться искусственным интеллектом. "Большой потенциал в развитии ИИ связан с робототехникой, финансовыми услугами и безопасностью, самоуправляемыми автомобилями", – считает Шеховцова.

ИИ уже используется в поисковых машинах "Яндекса", Google, Microsoft, Baidu, в компьютерном зрения, при финансовом анализе, в различных экспертных системах.

Одно из направлений использования ИИ – возможность общения на естественном языке с разнообразными компьютерными интерфейсами и интернет-сервисами. Причем, это уже не далекое будущее, а реальность. Коммерческих чатботов в соцсетях и мессенджерах запустили или планируют запустить в ближайшее время тысячи компаний. Благодаря ИИ, распознавание и синтез речи выходят на новый уровень. Соответственно, можно ожидать прорыва и в области машинного перевода, как текстового, так и голосового.

До сих пор люди выполняют огромное количество тяжелых рутинных рабочих процессов. Причем, если на производстве научились более или менее успешно их автоматизировать – на современных роботизированных фабриках и складах могут работать буквально несколько человек, то сферу обслуживания, офисы, госучреждения, транспорт и СМИ сейчас сложно себе представить без участия людей. Но, возможно, лет через 10 ситуация принципиально изменится. Использование ИИ в роли юридических, бизнес и медицинских консультантов, с одной стороны, уменьшит стоимость таких услуг, с другой – повысит их качество. Хороший пример использования ИИ – отслеживание транспортных и охранных камер наблюдения. Сейчас этим занимаются операторы, но современный ИИ уже может не только распознать внештатную ситуации, но и классифицировать ее, проанализировать и предпринять соответствующие действия.

В принципе, любой процесс, выполняемый по определенным алгоритмам, каким бы человеческими и сложными они не казались, можно передать ИИ. Это касается и консультаций у доктора или адвоката, написания новостей в СМИ, разработки бизнес-планов и маркетинговых стратегий, ведения бухгалтерии, работы госчиновников и многого другого.

Интересно, что многие эксперты видят перспективы использования ИИ не только в более или менее шаблонных рабочих процессах, но и в тех, которые традиционно считаются творческими. Теоретически ничто не мешает ИИ, конечно более развитым и обученным чем сейчас, писать художественные тексты, поп-музыку, картины или снимать кино.

Впрочем, это скорее говорит не об очеловечивании ИИ, а о том, что мы несколько переоцениваем свой творческий потенциал, и большая часть создаваемого даже людьми креативных профессий – это добротный, качественный и профессиональный продукт, созданный по жестким стандартам, освоить которые по силам и ИИ.

Искусственный интеллект – это хорошо или плохо?

ИИ – это не просто хорошо. Это очень хорошо. Он может освободить человеческие ресурсы для настоящей интеллектуальной и творческой деятельности. Более того, выполняя рутинные процессы, ИИ может стать неоценимым помощником для решения сложных задач, где требуется интеллектуальный или творческий прорыв. Также, очевидно, что массовое внедрение ИИ откроет путь к появлению новых профессий (и созданию новых рабочих мест), которые мы пока даже не можем себе представить.

Остается открытым вопрос – насколько люди готовы в реальной жизни взаимодействовать с искусственным интеллектом. Есть разные точки зрения, но с учетом возрастающей виртуализации нашего общения, которое все больше происходит не лицом к лицу, а по телефону, в электронных письмах, чатах, соцсетях, нам по большому счету неважно, кто на том конце провода примет заказ, ответит на вопрос, решит проблему – реальный человек или искусственный интеллект. Так что, скорее всего психологическое привыкание людей к общению с ИИ произойдет намного быстрее, чем нам кажется.

В этом году компания «Яндекс» запустила голосового помощника «Алиса». Новый сервис позволяет пользователю прослушивать новости и погоду, получать ответы на вопросы и просто общаться с ботом. «Алиса» иногда дерзит , порой кажется почти разумной и по-человечески саркастичной , но часто не может разобраться, о чём её спрашивают, и садится в лужу.

Всё это породило не только волну шуток, но и новый виток дискуссий о развитии искусственного интеллекта. Новости о том, чего добились умные алгоритмы, сегодня приходят чуть ли не каждый день, а машинное обучение называют одним из самых перспективных направлений, которому можно себя посвятить.

Чтобы прояснить главные вопросы об искусственном интеллекте, мы побеседовали с Сергеем Марковым, специалистом по искусственному интеллекту и методам машинного обучения, автором одной из самых сильных отечественных шахматных программ SmarThink и создателем проекта «XXII век» .

Сергей Марков,

специалист по искусственному интеллекту

Развенчивая мифы об ИИ

так что же такое «искусственный интеллект»?

Понятию «искусственный интеллект» в какой-то мере не повезло. Возникшее изначально в научной среде, оно со временем проникло в фантастическую литературу, а через неё - в поп-культуру, где претерпело целый ряд изменений, обросло множеством интерпретаций и в конце-концов было совершенно мистифицировано.

Именно поэтому мы часто слышим от неспециалистов примерно такие заявления: «ИИ не существует», «ИИ невозможно создать». Непонимание сути исследований, ведущихся в сфере ИИ, легко приводит людей и к другим крайностям - например, современным системам ИИ приписывают наличие сознания, свободной воли и секретных мотивов.

Давайте попробуем отделить мух от котлет.

В науке искусственным интеллектом называют системы, предназначенные для решения интеллектуальных задач.

В свою очередь, интеллектуальная задача - это задача, которую люди решают при помощи собственного интеллекта. Заметим, что в данном случае специалисты сознательно уходят от определения понятия «интеллект», поскольку до появления систем ИИ единственным примером интеллекта был интеллект человеческий, и определить понятие интеллекта на основе единственного примера - то же самое, что пытаться провести прямую через единственную точку. Таких прямых может оказаться сколько угодно много, а значит, спор о понятии интеллекта можно было бы вести столетиями.

«сильный» и «слабый» искусственный интеллект

Системы ИИ делятся на две большие группы.

Прикладной искусственный интеллект (также используют термин «слабый ИИ» или «узкий ИИ», в английской традиции - weak/applied/narrow AI) - это ИИ, предназначенный для решения какой-либо одной интеллектуальной задачи или их небольшого множества. К этому классу относятся системы для игры в шахматы, го, распознавания образов, речи, принятия решения о выдаче или невыдаче банковского кредита и так далее.

В противоположность прикладному ИИ вводят понятие универсального искусственного интеллекта (также «сильный ИИ», по-английски - strong AI/Artificial General Intelligence) - то есть, гипотетического (пока что) ИИ, способного решать любые интеллектуальные задачи.

Часто люди, не зная терминологии, отождествляют ИИ с сильным ИИ, из-за этого и возникают суждения в духе «ИИ не существует».

Сильного ИИ действительно пока не существует. Практически все успехи, которые мы наблюдаем в последнее десятилетие в области ИИ, - это успехи прикладных систем. Эти успехи нельзя недооценивать, так как прикладные системы в ряде случаев способны решать интеллектуальные задачи лучше, чем это делает универсальный человеческий интеллект.

Я думаю, вы заметили, что понятие ИИ - довольно широкое. Скажем, устный счёт - это тоже интеллектуальная задача, и это значит, что любая счётная машина будет считаться системой ИИ. А как насчёт счётов? Абака ? Антикитерского механизма ? Действительно, всё это формально хотя и примитивные, но системы ИИ. Однако обычно, называя какую-то систему системой ИИ, мы тем самым подчёркиваем сложность решаемой этой системой задачи.

Совершенно очевидно, что разделение интеллектуальных задач на простые и сложные - весьма искусственное, и наши представления о сложности тех или иных задач постепенно меняются. Механическая счётная машина была чудом техники в XVII веке, но сегодня людей, с детства сталкивающихся с куда более сложными механизмами, она уже не способна впечатлить. Когда игра машин в го или автомобильные автопилоты уже перестанут удивлять публику, наверняка найдутся люди, которые будут морщиться из-за того, что кто-то будет относить такие системы к ИИ.

«Роботы-отличники»: о способностях ИИ к обучению

Ещё одно забавное заблуждение - всенепременное наличие у систем ИИ способности к самообучению. С одной стороны, это совсем не обязательное свойство систем ИИ: есть множество удивительных систем, не способных самообучаться, но, тем не менее, решающих многие задачи лучше человеческого мозга. С другой стороны, некоторые люди просто не знают того, что самообучение - свойство, которые многие системы ИИ обрели ещё более полусотни лет назад.

Когда в 1999 году я писал свою первую шахматную программу, самообучение уже было совершенно общим местом в этой области - программы умели запоминать опасные позиции, подстраивать под себя дебютные варианты, регулировать стиль игры, подстраиваясь под соперника. Конечно, тем программам было ещё очень далеко до Alpha Zero . Тем не менее, даже системы, обучающиеся поведению на основе взаимодействия с другими системами в ходе экспериментов по так называемому «обучению с подкреплением», уже существовали. Однако по необъяснимой причине некоторые люди до сих пор думают, что способность к самообучению - это прерогатива человеческого интеллекта.

Машинное обучение, целая научная дисциплина, занимается процессами обучения машин решению тех или иных задач.

Существует два больших полюса машинного обучения - обучение с учителем и обучение без учителя.

При обучении с учителем у машины уже есть некоторое количество условно правильных решений для некоторого набора случаев. Задача обучения в таком случае заключается в том, чтобы научить машину на основе имеющихся примеров принимать правильные решения в других, неизвестных ситуациях.

Другая крайность - обучение без учителя . То есть машину ставят в ситуацию, когда правильные решения неизвестны, имеются только данные в сыром, неразмеченном виде. Оказывается, и в таких случаях можно добиться некоторого успеха. Например, можно научить машину выявлению семантических отношений между словами языка на основе анализа очень большого набора текстов.

Одна из разновидностей обучения с учителем - это обучение с подкреплением (reinforcement learning). Идея заключается в том, что система ИИ выступает в роли агента, помещённого в некоторую модельную среду, в которой она может взаимодействовать с другими агентами, например, с собственными копиями, и получать от среды некоторую обратную связь через функцию вознаграждения. Например, шахматная программа, которая играет сама с собой, постепенно подстраивая свои параметры и тем самым постепенно усиливая собственную игру.

Обучение с подкреплением - довольно широкая область, в ней применяют множество интересных методов, начиная от эволюционных алгоритмов и заканчивая байесовской оптимизацией . Последние достижения в области ИИ для игр как раз связаны с усилением ИИ в ходе обучения с подкреплением.

Риски развития технологий: стоит ли бояться «Судного дня»?

Я не отношусь к числу ИИ-алармистов, и в этом смысле я отнюдь не одинок. Например, создатель стэнфордского курса по машинному обучению Эндрю Ын сравнивает проблему опасности ИИ с проблемой перенаселения Марса.

Действительно, в будущем вполне вероятно, что люди колонизируют Марс. Также вероятно, что рано или поздно на Марсе может возникнуть проблема перенаселения, но не совсем понятно, почему мы должны заниматься этой проблемой уже сейчас? Согласны с Ыном и Ян ЛеКун - создатель свёрточных нейронный сетей, и его шеф Марк Цукерберг, и Йошуа Беньо - человек, во многом благодаря исследованиям которого современные нейронные сети способны решать сложные задачи в области обработки текстов.

Чтобы изложить мои взгляды на эту проблему, потребуется, вероятно, несколько часов, поэтому остановлюсь только на основных тезисах.

1. НЕЛЬЗЯ ОГРАНИЧИВАТЬ РАЗВИТИЕ ИИ

Алармисты рассматривают риски, связанные с потенциальным разрушительным воздействием ИИ, при этом игнорируя риски, связанные с попыткой ограничить или даже остановить прогресс в этой области. Технологическое могущество человечества возрастает чрезвычайно быстрыми темпами, что приводит к эффекту, который я называю «удешевлением апокалипсиса».

150 лет назад при всём желании человечество не могло нанести невосполнимого урона ни биосфере, ни себе как виду. Для реализации катастрофического сценария 50 лет назад необходимо было бы сконцентрировать всю технологическую мощь ядерных держав. Завтра для воплощения в жизнь глобальной техногенной катастрофы может хватить и небольшой горстки фанатиков.

Наша технологическая мощь растёт куда быстрее, чем способность человеческого интеллекта эту мощь контролировать.

Если на смену человеческому интеллекту с его предрассудками, агрессией, заблуждениями и ограниченностью не придёт система, способная принимать более взвешенные решения (будь то ИИ или, что я считаю более вероятным, технологически улучшенный и объединённый с машинами в единую систему человеческий интеллект), нас может ждать глобальная катастрофа.

2. создание сверхинтеллекта принципиально невозможно

Существует идея о том, что ИИ будущего всенепременно будет сверхинтеллектом, превосходящим людей даже сильнее, чем люди превосходят муравьёв. Боюсь в данном случае разочаровать и технологических оптимистов - наша Вселенная содержит целый ряд фундаментальных физических ограничений, которые, по всей видимости, сделают создание сверхинтеллекта невозможным.

Например, скорость передачи сигнала ограничена скоростью света, а на планковских масштабах появляется неопределённость Гейзенберга. Отсюда вытекает первый фундаментальный предел - предел Бремерманна, вводящий ограничения на максимальную скорость вычислений для автономной системы заданной массы m.

Другой предел связан с принципом Ландауэра , в соответствии с которым существует минимальное количество теплоты, выделяемое при обработке 1 бита информации. Слишком быстрые вычисления вызовут недопустимый разогрев и разрушение системы. В действительности, современные процессоры от лимита Ландауэра отделяет менее чем тысячекратное отставание. Казалось бы, 1000 - это довольно много, однако ещё одна проблема заключается в том, что многие интеллектуальные задачи относятся к классу сложности EXPTIME. Это означает, что время, необходимое для их решения, является экспоненциальной функцией от размерности задачи. Ускорение системы в несколько раз даёт лишь константный прирост «интеллекта».

В общем, есть очень серьёзные основания полагать, что сверхинтеллектуального сильного ИИ не получится, хотя, конечно, уровень человеческого интеллекта вполне может быть превзойдён. Насколько это опасно? Скорее всего, не очень.

Представьте себе, что вы внезапно начали думать в 100 раз быстрее остальных людей. Значит ли это, что вы легко будете способны уговорить любого прохожего отдать вам свой кошелёк?

3. мы беспокоимся совсем не о том

К сожалению, в результате спекуляций алармистов на страхах публики, воспитанной на «Терминаторе» и знаменитом HAL 9000 Кларка и Кубрика, происходит смещение акцентов в сфере безопасности ИИ в сторону анализа маловероятных, но эффектных сценариев. При этом реальные опасности ускользают из виду.

Любая достаточно сложная технология, претендующая на то, чтобы занять важное место в нашем технологическом ландшафте, безусловно приносит с собой специфические риски. Множество жизней было погублено паровыми машинами - на производстве, на транспорте и так далее - прежде чем были выработаны эффективные правила и меры по обеспечению безопасности.

Если говорить о прогрессе в области прикладного ИИ, можно обратить внимание на связанную с ним проблему так называемого «Цифрового тайного суда» . Всё больше и больше прикладных систем ИИ принимает решения по вопросам, затрагивающим жизнь и здоровье людей. Сюда относятся и медицинские диагностические системы, и, например, системы, принимающие в банках решения о выдаче или невыдаче кредита клиенту.

В то же время структура используемых моделей, наборы используемых факторов и другие детали процедуры принятия решения скрыты коммерческой тайной от человека, чья судьба находится на кону.

Используемые модели могут основывать свои решения на мнениях учителей-экспертов, допускавших систематические ошибки или имевших те или иные предрассудки - расовые, гендерные.

ИИ, обученный на решениях таких экспертов, будет добросовестно воспроизводить эти предрассудки в своих решениях. В конце концов эти модели могут содержать в себе специфические дефекты.

Этими проблемами сейчас мало кто занимается, поскольку, конечно, SkyNet, развязывающий ядерную войну, это, безусловно, куда более зрелищно.

Нейросети как «горячий тренд»

С одной стороны, нейронные сети - это одна из самых старинных моделей, применяющихся для создания систем ИИ. Появившиеся изначально в результате применения бионического подхода , они довольно быстро убежали от своих биологических прототипов. Исключением тут являются только импульсные нейронные сети (впрочем, пока не нашедшие широкого применения в индустрии).

Прогресс последних десятилетий связан с развитием технологий глубокого обучения - подхода, при котором нейронные сети собирают из большого количество слоёв, каждый из которых построен на основе определённых регулярных паттернов.

Помимо создания новых нейросетевых моделей важный прогресс был также достигнут в области технологий обучения. Сегодня нейронные сети учат уже не при помощи центральных процессоров компьютеров, а с использованием специализированных процессоров, способных быстро производить матричные и тензорные вычисления. Наиболее распространённый на сегодняшний день вид таких устройств - видеокарты. Впрочем, активно ведётся разработка ещё более специализированных устройств для обучения нейросетей.

В целом, безусловно, нейронные сети на сегодняшний день, - это одна из основных технологий в области машинного обучения, которой мы обязаны решению многих задач, ранее решавшихся неудовлетворительно. С другой стороны, конечно, нужно понимать, что нейронные сети не являются панацеей. Для некоторых задач они - далеко не самый эффективный инструмент.

Так насколько умны нынешние роботы на самом деле?

Всё познаётся в сравнении. На фоне технологий 2000-го года нынешние достижения выглядят настоящим чудом. Всегда найдутся люди, любящие побрюзжать. 5 лет назад они вовсю трындели о том, что машины никогда не выиграют у людей в го (ну или, по крайней мере, выиграют очень нескоро). Говорили о том, что машина никогда не сможет нарисовать с нуля картину, в то время как сегодня люди практически неспособны отличать картины, созданные машинами, от картин неизвестных им художников. В конце прошлого года машины научились синтезировать речь, практически неотличимую от человеческой, а в последние годы от музыки, создаваемой машинами, не вянут уши.

Посмотрим, что будет завтра. Я смотрю на эти области применения ИИ с большим оптимизмом.

Перспективные направления: где начать погружение в сферу ИИ?

Я бы посоветовал постараться на хорошем уровне освоить один из популярных нейросетевых фреймворков и один из популярных в области машинного обучения языков программирования (наиболее популярна на сегодняшний день связка TensorFlow + Python).

Овладев этими инструментами и имея в идеале крепкую базу в области математической статистики и теории вероятностей, следует направить свои усилия в ту сферу, которая будет наиболее интересна лично вам.

Интерес к предмету работы - один из самых важных ваших помощников.

Потребность в специалистах по машинному обучению существует в самых разных областях - в медицине, в банковском деле, в науке, на производстве, поэтому сегодня хорошему специалисту предоставлен как никогда широкий выбор. Потенциальные преимущества любой из этих отраслей мне представляются несущественными по сравнению с тем, что работа будет приносить вам удовольствие.

Т.к. искусственный интеллект (ИИ) начинает находить практическое применение в нашей повседневной жизни, то мы все чаще и чаще слышим о нем. Среди успешных историй есть множество предупреждений о будущем с терминаторами, в котором роботы с ИИ захватят весь мир.

Так как же можно отделить факты от фантастики, и сможет ли искусственный интеллект когда-нибудь превзойти людей?

Компьютеры будут намного умнее людей в ближайшие 50 лет – МИФ

Ученые и специалисты в сфере развития компьютерных технологий имеют различные мнения на счет того, превзойдет ли ИИ когда-нибудь интеллектуальные возможности человека. Компьютеры способны хранить анализировать огромный объем данных (больше, чем люди), но у них нет интуиции, которая и делает нас людьми.

Становится ли искусственный интеллект умнее или он уже способен быть умнее нас – ответ на этот вопрос пока остается открытым. Без способности отображать и читать эмоции ИИ никогда не будет иметь полный набор навыков, который определяет человеческий разум .

Искусственный интеллект уничтожит человечество - МИФ

Многие философы задаются вопросом: «Что случится, если машины обретут самосознание?» Если ИИ может самостоятельно думать, то способен ли он самостоятельно действовать? И что он может сделать, чтобы защитить себя?

Эти вопросы легли в основу известного фильма «Терминатор», который с момента своего выхода на экраны до сих продолжает пугать людей. Может ли ИИ уничтожить человечество, если почувствует угрозу для себя со стороны людей?

Ответ: … скорее всего, нет. Системы с искусственным интеллектом работают в соответствии с заранее заданными параметрами, которые следят за тем, чтобы они работали в определенных рамках и решали только те проблемы, для которых они были разработаны. Если кто-то не допустит ошибки в этих изначальных параметрах, то система вряд ли будет работать по направлениям, которые к ней не относятся.

ИИ может контролировать людей - ФАКТ

Мы склонны думать, что только другие люди могут контролировать нас, потому что мы взаимодействуем с ними в реальном мире. Но реальность такова, что наши мысли, чувства и эмоции постоянно обрабатываются машинами.

По мере развития ИИ такие техники станут более эффективными. ИИ не может полностью «контролировать» нас , но он, безусловно, может мотивировать нас на определенные действия.

ИИ защищен от взлома – МИФ

Просто потому, что ИИ демонстрирует разум, не означает, что его невозможно взломать: в любом случае ИИ – это все же компьютерная программа, пусть и намного более сложная. А это означает, что ее все же можно взломать.