Наше будущее. Роботы уже среди нас

Евгений Сергеев

Еще вчера роботы и искусственный интеллект интересовали только фантастов. Сегодня эти мечты становятся реальностью. Роботы оставят миллионы людей без работы, искусственный интеллект вообще угрожает поставить жирную точку на истории человечества. В ответ на это кто-то предлагает запретить исследования в области искусственного интеллекта. Однако прогресс неумолим. Прочитав книгу, вы узнаете, как новые технологии меняют нашу жизнь. И это позволит вам не затеряться в быстроменяющемся мире.

Глава 2. Роботы уже среди нас

Современный мир трудно представить без роботов. Они заняты выполнением различных функций, с которыми ранее справлялся только человек. Пока их не так много, поэтому они существенным образом не влияют на развитие человечества. Но наступит время, и роботы, наделенные искусственным интеллектом, станут основной движущей силой эволюции.

Сам термин «робот» произошел от чешского слова robota, которое в переводе звучит как подневольный, рабский труд. Первые роботы были неуклюжи, но технологии позволяют говорить, что они когда-то превзойдут человека.

Первые роботы

Первые попытки создания роботов принадлежат великому Леонардо да Винчи. Именно он наделял неживые объекты некоторыми свойствами человека. Все свои работы гений создавал на основе глубокого анализа деятельности человека и животных.

В середине XV века Леонардо да Винчи создал автомат-барабанщик. В те времена барабанщики играли важную роль в жизни человека. Именно они транслировали приказы на поле боя, а в мирное время развлекали дворы. Для создания такого автомата да Винчи подробно изучил движения людей-барабанщиков.

Также рукам этого человека принадлежит создание гуманоидного существа в германо-итальянской рыцарской броне, который был способен имитировать человеческие движения (вставать и садиться, двигать конечностями и головой)³.

Через три века, в 1735 г., Жак де Вокансон в возрасте 26 лет создал механическую утку. По внешнему виду птица была неотличима от своих сородичей. Умела сидеть, стоять, переваливаться с ноги на ногу, пила воду и крякала. Все это чрезвычайно возбуждало публику. Но изюминкой робота-утки было то, что она умела кушать и испражняться. Этот трюк позволил ее создателю стать членом престижной Французской академии наук.

Естественно, механическая утка не могла переваривать пищу. Трюк состоял в том, что еда поступала в один сосуд, а испражнения выходили из другого.

В 1745 г. Вокансон создал систему перфокарт для управления ткацким процессом, что стало основой для создания станка Жаккарда.

Мэри Шелли в 1818 г. написала роман «Франкенштейн», в котором описано создание искусственной жизни в лаборатории. Однако наибольший вклад в развитие представлений о будущем робототехники внес Айзик Азимов, которому принадлежит авторство трех законов робототехники.

Компания Westinghouse в 1939 г. представила публике робота Электро высотой 2,14 м. Он был одет в алюминиевую одежду, курил сигареты, считал на пальцах и произносил некоторые фразы. Через год спутником Электро стала металлическая собака Спарко. Она могла ходить, гавкать и сидеть на задних лапках.

Одна из первых фирм, которая вышла на рынок продажи роботов, — это компания Unimation. В 1964 г. она продала 30 роботов, однако с 1967 по 1972 ее оборот увеличился с 2 до 14 млн долл. США. Компания была создана выдающимися фигурами роботостроения Джорджем Деволом и Джозефом Энгельбургом.

В середине 1970-х гг. Unimation выпустила на рынок робота-манипулятора PUMA (Programmable Universal Machine for Assembly). Это послужило началом широкого распространения промышленных роботов.

В 1984 г. компания Westinghouse приобрела Unimation за 107 млн долл. США, а через четыре года продала ее французской компании Staubli⁴.

Согласно информации Международной федерации робототехники, в настоящий момент используется больше миллиона различных роботов. Они находят свое применение в промышленности, транспорте, торговле, сельском хозяйстве и множестве других отраслей. Кроме того, современные роботы все чаще встречаются в быту. Они выполняют роль уборщиц, сиделок, некоторые роботы уже умеют готовить. Постепенное внедрение элементов искусственного интеллекта сделают роботов незаменимыми. В каждом хозяйстве будет не один, а несколько роботов-помощников.

Классификация роботов

Огромное количество создаваемых роботов можно классифицировать по назначению и форме. Алексей Турчин в своей книге «Футурология. XXI век: бессмертие или глобальная катастрофа?» привел довольно подробное деление роботов по назначению. Стоит рассмотреть данную классификацию подробней:

1. Роботозированные транспортные средства. Компания Google успешно проводит испытания робомобиля. У нас подобные исследования ведутся на КаМАЗе. Эксперты практически единогласно уверены, что робомобили в будущем заменят автомобили.

2. Военные роботы. Данный вид роботов особо активно развивается в США. Огромный военный бюджет частично идет на финансирование исследований в области роботостроения. Военные роботы существенным образом сократят прямые человеческие потери. Однако многие эксперты предостерегают от создания подобных машин. Есть некоторая вероятность, что они могут выйти из-под контроля и вся их мощь будет направлена на своего создателя. Военные роботы используются для разминирования, также широко применение дронов.

3. Промышленные роботы. Пожалуй, это самое массовое и перспективное направление использования роботов. Промышленные варианты могут делать все виды операций: от приема сырья до выдачи готовой продукции. Отдельно успешно развиваются сварочные роботы, роботы-сборщики и роботы-покрасчики. Для выполнения различных процессов используются роботы-манипуляторы.

4. Строительные роботы. 3D-технологии успешно развиваются в создании различных объектов. Механизмы уже сейчас печатают одноэтажные дома. В 2008 г. правительство Южной Кореи заявило о создании технологии, позволяющей полностью автоматизировать строительство многоэтажных домов.

5. Медицинские роботы. Роботизированная хирургия стала появляться в 80-х гг., когда был создан автоматический хирург «da Vinci». В отдаленном будущем ожидается разработка нанороботов, классических узких специалистов заменят экспертные системы.

6. Исследовательские роботы и роботы-ученые. Исследовательские роботы активно применяются в средах, недоступных человеку, например, вследствие высоких температур, радиации, давления. Для ликвидации аварии на Фукусиме активно использовались роботы Tri-Star IV, разработанные учеными Токийского технологического университета.

7. Домашние роботы-слуги и роботы для ухода за престарелыми гражданами. В быту активно появляются роботы по типу пылесоса Roomba. Южная Корея планирует снабдить каждую семью роботами к 2020 г. В отдаленном будущем у каждого человека будет по несколько помощников-роботов.

8. Сексуальные роботы. Силиконовые куклы постепенно совершенствуются. Некоторые из них уже неотличимы по внешнему виду от человека и умеют говорить простые фразы. Также куклы могут улыбаться, учащенно дышать, моргать и двигать тазом. После разработки искусственного интеллекта станет возможным брак между роботом и человеком⁵.

По форме роботы могут быть в виде человека, колеса, шара, животного, отдельного механизма. Для нас наиболее привлекательным роботом является андроид, который выглядит как человек. Но для выполнения отдельных функций роботы могут быть разнообразными. В том числе множество нанороботов смогут создавать необходимую фигуру, или появятся роботы-облака.

Разнообразие роботов существенным образом облегчит жизнь человека. Тяжелые и опасные операции полностью будут выполняться автоматическими механизмами.

Промышленные роботы

Промышленный робот предназначен для выполнения определенных функций на производствах. По специализации стоит различать следующие виды:

1. Вспомогательные промышленные роботы.

2. Технологические промышленные роботы.

3. Универсальные промышленные роботы широкого технологического назначения.

Данные роботы широко используются в машиностроении, литейном, сварочном и покрасочном производствах, в гальванических цехах и на складах.

Особенно роботы незаменимы в цехах с вредными условиями. Например, в литейном производстве это высокие температуры, в гальванических и покрасочных цехах — вредные пары.

Промышленные роботы позволяют автоматизировать практически все производственные процессы. Главное условие роботизации — это массовое стандартное или алгоритмизируемое производство. Хотя появляются универсальные роботы, которые могут быть применены как в крупном, так и в малом бизнесе.

Среди производителей промышленных роботов стоит отметить компании FANUC и KUKA.

В японской компании FANUC трудится порядка 5200 сотрудников. Почти 60-летний опыт позволяет производить высококачественное оборудование для промышленной автоматизации. Роботы FANUC используются по всему миру.

Немецкая компания KUKA — один из ведущих мировых поставщиков в области робототехники. В компании работает порядка 12500 человек. Компания предлагает как отдельные элементы, так и целые автоматизированные промышленные комплексы.

Коэффициент автоматизации и роботизации показывает общий уровень технологического развития страны. Данные по роботизации рабочих мест представлены на рисунке ниже.

Рисунок 2.1 — Количество промышленных роботов на 10 000 рабочих мест в 2015 г.

Представленная картинка наглядно демонстрирует, как Российская Федерация осваивает новые технологии. Почти никак. Если в Южной Корее на 10 000 рабочих мест приходится 531 робот, то у нас — всего один. Повсеместная роботизация обходит нас стороной. Но это не означает, что мы не получим отрицательных эффектов этого явления. Южнокорейская продукция, как и продукция других стран, вытесняет отечественную, которая не может с ней конкурировать ни по качеству, ни по цене. А вот положительных эффектов — создания рабочих мест в области роботостроения и его сервисе — у нас точно не намечается.

Даже в таких «передовых» странах, как Кения и Уганда, уже осознали проблему нового технологического уклада — значительное высвобождение работников вследствие роботизации. И там начали эксперименты по безусловному доходу. Непонятны нам проблемы этих африканцев. Как и проблемы швейцарцев и финнов и прочих иноземцев, где также исследуют вопрос безусловного дохода. У нас вон с каждого тунеядца предлагается брать 20000 руб. с носа⁶.

Экономическая эффективность использования промышленных роботов

Для оценки экономической эффективности использования промышленных роботов можно воспользоваться методами инвестиционного анализа, в рамках которых рассчитываются следующие критерии: чистый дисконтированный доход (NPV), индекс доходности инвестиций (ИДИ), внутренняя норма доходности (IRR), срок окупаемости проекта.

Прирост чистой прибыли определяется как разница между экономией от роботизации и понесенными дополнительными расходами с учетом налога на прибыль. При роботизации рабочих мест экономия проявляется по следующим статьям:

1. Заработная плата высвобождаемых работников.

2. Страховые взносы на оплату труда высвобождаемых работников.

3. Охрана труда.

4. Отопление и кондиционирование.

5. Затраты по ликвидации брака.

6. Затраты по простоям вследствие прогулов работников.

В свою очередь дополнительные расходы учитывают следующие расходы:

1. Амортизация нового оборудования.

2. Налог на имущество.

3. Дополнительно используемая электроэнергия для работы самого робота. Энергия для технологических нужд не учитывается.

4. Расходы по программированию и перепрограммированию робота.

5. Расходные материалы по новому оборудованию.

6. Текущий и капитальный ремонты вновь приобретаемого промышленного робота.

Капитальные вложения учитывают стоимость робота, а также расходы по его доставке и установке.

Норма дисконта, как правило, приравнивается к средней стоимости использования заемных средств.

Если чистый дисконтированный доход положительный, то роботизация считается экономически целесообразным мероприятием. Если меньше нуля, то мероприятие экономически неэффективное.

Внутренняя норма рентабельности показывает величину норму дисконта, при которой чистый дисконтированный доход равен нулю. Это наибольшая стоимость заемных средств, которые можно использовать для реализации инвестиционного проекта.

Срок окупаемости проекта характеризует период, за который вложенные средства с учетом приведенной стоимости полностью вернутся.

Стоит рассмотреть расчет экономической эффективности условного проекта по роботизации рабочих мест.

Пусть стоимость робота составит 5 млн руб., расходы по доставке — 50 тыс. руб., расходы по установке — 100 тыс. руб. Итого капитальные вложения составят 5150 тыс. руб. Срок эксплуатации оборудования — 5 лет, следовательно, годовая амортизация составит 1030 тыс. руб. После реализации проекта робот продается за 20% от первоначальной стоимости, или за 1030 тыс. руб.

Расчет экономии от роботизации рабочих мест осуществляется с учетом следующих условных данных:

1. В результате роботизации ожидается высвобождение трех работников со средней заработной платой 50 тыс. руб. В последующих периодах она будет увеличиваться на 5%. В первый год затраты на оплату труда составят 1800 тыс. руб.

2. Ставка страховых взносов — 30%. При расчетах необходимо учитывать предельные суммы начисления страховых взносов.

3. Годовая экономия по охране труда составят 36 тыс. руб. Ежегодно расходы будут расти на 7%.

4. Снижение затрат на отопление и кондиционирование составит 20 тыс. руб. Ежегодно сумма будет увеличиваться на 7%.

5. Экономия по снижению брака составит 100 тыс. руб. Ежегодно сумма будет увеличиваться на 5%.

6. Экономия по затратам по прогулам работников составит 50 тыс. руб. Ежегодно будет увеличиваться на 5%.

Расчет экономии от роботизации трех рабочих мест представлен в таблице 2.1.

Таблица 2.1 — Расчет экономии от роботизации трех рабочих мест, тыс. руб.

Годовая экономия от роботизации увеличится с 2546 до 3100 тыс. руб. В целом за пять лет снижение затрат составит 14081 тыс. руб. Наибольшая величина придется на расходы, связанные с оплатой труда.

Расчет дополнительных расходов осуществляется с учетом следующих условных данных:

1. Годовая амортизация составит 1030 тыс. руб.

2. Налог на имущество равен 2,2% от среднегодовой остаточной стоимости основных средств.

3. Расходы по дополнительной энергии составят 40 тыс. руб./год. Ежегодно они будут увеличиваться на 7%.

4. Расходы по программированию и перепрограммированию составят 100 тыс. руб. Ежегодно они будут увеличиваться на 5%.

5. Затраты по расходным материалам — 150 тыс. руб. Ежегодно будут увеличиваться на 5%.

6. Затраты по текущему и капитальному ремонту составят 5% от величины капитальных вложений, или 258 тыс. руб. Ежегодно они будут увеличиваться на 5%.

Расчет дополнительных затрат от использования роботов представлен в таблице 2.2.

Таблица 2.2 — Расчет дополнительных затрат от роботизации трех рабочих мест, тыс. руб.

Дополнительные расходы за весь эксплуатационный период составят 8470 тыс. руб.

Расчет чистой прибыли с учетом ставки налога в размере 20% представлен в таблице 2.3.

Таблица 2.3 — Расчет чистой прибыли, тыс. руб.

За весь анализируемый период прирост чистой прибыли от роботизации составит 4488 тыс. руб.

Расчет чистого дисконтированного дохода роботизации трех рабочих мест с учетом ставки дисконта, равной 10%, представлен в таблице 2.4.

Таблица 2.4 — Расчет чистого дисконтированного дохода

При расчете чистого дохода в пятом году учитывалось, что продажи основных средств также подлежат налогообложению по ставке 20%.

Положительный чистый дисконтированный доход, равный 2594 тыс. руб., показывает экономическую эффективность условного проекта роботизации трех рабочих мест.

Индекс доходности инвестиций составит 1,50. Его величина больше единицы, что положительно характеризует проект. Внутренняя норма доходности составит 26,6%, срок окупаемости проекта — 3 года 6 месяцев.

На основании рассчитанных критериев стоит сделать вывод об экономической целесообразности роботизации трех рабочих мест.

В результате использования новейшего оборудования ожидается снижение страховых взносов при увеличении налога на имущество и налога на прибыль. Расчет изменения налоговых платежей представлен в таблице 2.5.

Таблица 2.5 — Расчет изменения налоговых платежей, тыс. руб.

При расчете налога на прибыль в пятом году учитывалась реализация основных средств. В результате роботизации трех рабочих мест налоговые платежи сократятся. В целом их величина за весь период снизится на 2723 тыс. руб.

Данную методику анализа эффективности роботизации рабочих мест можно использовать во всех отраслях с учетом специфики формирования их доходов и расходов.

Заводы-автоматы

Всеобщая роботизация и автоматизация приведут к появлению заводов, которые будут действовать абсолютно автономно — без участия человека. Или численность персонала будет минимальна. Для этого необходимо автоматизировать все производственные процессы.

В настоящий момент технологии уже позволяют создавать такие заводы-автоматы. К подобному объекту привозят необходимо сырье, роботы складируют запасы, далее материалы поступают в основное производство, которое также автоматизировано, готовая продукция опять принимается автоматизированными механизмами. Контроль качества работ осуществляет также робот. После складских операций продукция отпускается потребителям.

Естественно, в настоящий момент полностью автоматизировать можно производства со стандартной и несложной продукцией. Например, это литейные цеха, заводы по производству строительных смесей и цемента, некоторые химические производства и т. д.

Ранее мне встречалась информация о создании полностью автоматизированных парников для выращивания овощей гидропонным методом. В качестве входного сырья в парник поступают необходимые минеральные удобрения, добавки и вода. Автоматизированные устройства осуществляют доставку веществ до растений. Сбор урожая так же, как и уход за растениями, осуществляется специальными автоматами. На выходе потребители получают свежие овощи. Себестоимость продукции ниже рыночной, ибо она не включает расходы по оплате труда персонала.

За работой подобного комплекса может следить один или несколько человек. При этом наблюдение может осуществляться дистанционно. Например, человек живет в г. Тюмени, а наблюдает за заводом-автоматом в г. Краснодаре. В случае необходимости он просто или перенастраивает работу комплекса через Интернет, или вызывает ремонтную бригаду.

Знание иностранных языков и появление автоматических переводчиков позволяет дистанционно работать по всему миру. Тот же житель Тюмени сможет наблюдать за работой комплекса в Новой Зеландии.

В Санкт-Петербурге в 2007 г. компанией THERMEX был построен завод-автомат по производству водонагревательного оборудования. Подрядчиком строительства выступила итальянская компания Mecanica Lorenzi. Степень автоматизации процессов равна 94%, что позволяет выпускать продукцию с высоким качеством, ибо отсутствует человеческий фактор.

В Екатеринбурге французские булки пекут роботы. На весь цех по производству хлебобулочных изделий всего два работника: один участвует в замесе теста, другой — следит за работой автоматизированной системы. Это позволяет ОАО «СМАК» выпускать вкуснейшие изделия по невысокой цене.

Естественно, технологии импортные, однако они хорошо прижились и у нас. Взаимные санкции между РФ и другими странами больно ударили не только по движению капитала, но нанесли существенный вред импорту передовых технологий. Это, возможно, даже более тяжелый удар, чем перекрытие финансового крана.

Уже сейчас девальвационный эффект снизился до минимума. Отечественным компаниям для удержания на плаву придется автоматизировать и роботизировать свои производства.

В технологически развитых странах, например, в Японии и Южной Корее заводы-автоматы производят сложнейшее оборудование. Ранее упомянутый FANUC еще в 1981 г. построил гибкий автоматизированный комплекс Fuji FN-2 по производству промышленных роботов.

Завод состоит из полностью автоматизированных цехов механической обработки, сборочного цеха, участка сварки и контроля, двух складов. Ежемесячный объем производства — 300 единиц, среди которых шесть моделей промышленных роботов, по четыре модели электроэрозионных и малогабаритных многоцелевых станков. На заводе работают всего 100 человек.

Развитие промышленной робототехники и появление искусственного интеллекта приведут к вытеснению заводами-автоматами традиционных производств.

ЗD-технологии

Параллельно с развитием роботизированных производств явью становятся 3D-технологии. Печать простых и сложных конструкций позволяет организовать производство продукции по индивидуальным заказам, что очень востребовано временем.

Аддитивные технологии широко используются для производства отдельных полуфабрикатов, в строительстве, медицине. Уже сейчас на 3D-принтерах печатают искусственные кости. Через некоторое время научатся создавать более сложные органы.

Одним из перспективных направлений использования аддитивных технологий является аэрокосмическая отрасль. Мировые гиганты отрасли NASA, SpaceX, Airbus, Boeing уже вкладывают миллиарды долларов в печать оснастки и различных деталей двигателей. Широкое использование 3D-печати по этому направлению обеспечено следующими преимуществами технологии:

— гибкость. Технологии позволяют печатать детали со сложной конструкцией, производство которых традиционными методами затруднительно;

— возможность снижения веса деталей. Для самолетов и ракет это чрезвычайно важный аргумент;

— сокращение производственного цикла. Это позволяет сократить цикл изготовления новой детали;

— минимизация отходов. В аэрокосмической отрасли часто используются дорогие материалы. Снижение отходов позволяет снизить себестоимость летательных аппаратов.

В самолете Boeing 787 Dreamliner используется порядка 30 деталей, изготовленных при помощи аддитивных технологий. Специалисты компании считают, что в ближайшее время будет освоена печать крыльев и иных крупных элементов самолета.

В космическом корабле НАСА содержится порядка 70 деталей, напечатанных на 3D-принтере. Ожидается, что в будущем некоторые элементы будут печататься в невесомости. Это позволит придать материалам новые свойства.

Сокращение производственного цикла гарантирует дальнейшее широкое использование технологии. Это значительным образом отразится на мировой экономике. Вот что по этому поводу пишет Джереми Рифкин: «Если Интернет радикально сократил входные затраты на генерирование и распространение информации и тем самым открыл дорогу новым компаниям вроде Google и Facebook, то аддитивное производство с его огромным потенциалом снижения себестоимости товаров длительного пользования способно сделать входные затраты достаточно низкими для привлечения сотен тысяч мини-производителей, малых и средних компаний, которые бросят вызов, и, возможно, переиграют гигантские производственные компании, составляющие костяк первой и второй промышленной революции»⁷.

Использование 3D-принтеров позволит организовать производство любой сложности на малом предприятии. Это, как и процесс роботизации, позволит вернуть часть заводов из Китая обратно в Европу и США. Однако процесс на этом не остановится. Тот же 3D-принтер может купить любой человек. И он уже сам сможет делать для себя одежду или иные вещи.

Аддитивные технологии приведут к появлению тысяч и миллионов домохозяйств, которые смогут обеспечивать себе вещами самостоятельно, что снизит спрос на традиционные товары. Зачем покупать себе обувь, если можно выбрать модель в Интернете, скачать программу и распечатать ее у себя дома. Также будет обстоять и с другой домашней утварью.

Бытовые роботы

Бытовые роботы предназначены для помощи человеку в повседневной жизни. Сейчас никто не удивляется, что у одного человека может быть несколько сотовых телефонов, вот так же скоро в каждом доме будет не по одному роботу.

В настоящий момент самый известный и распространенный бытовой робот — это пылесос Roomba. Система специальных щеток позволяет поддерживать чистоту в доме. Человек устанавливает время, когда робот должен провести полную уборку в квартире. Если запрограммировать на рабочее время, то никто не заметит работу робота: он все сделает, когда дома никого нет. Это устройство оснащено удивительным интеллектом, позволяющим роботу после уборки вернуться обратно к месту зарядки.

Кроме роботов-пылесосов постепенно входят в наш быт кухонные роботы, роботы-дворецкие, роботы-газонокосильщики, роботы-мойщики и роботы-охранники.

Широкое распространение кухонных роботов, которые смогут готовить разнообразные блюда, окончательно сведет к минимуму женский труд. Это прямым образом отразится на семейных отношениях.

В целом работу автоматизированной кухни можно будет представить следующим образом. В холодильники встроят множество датчиков, которые будут следить за наличием и свежестью продуктов. Если какой-то продукт заканчивается, то будет послан сигнал, и, когда человек пойдет в магазин, он сможет ознакомиться с этой информацией.

Заказ блюд можно будет сделать через мобильное приложение. Получив задание, робот проанализирует наличие необходимых ингредиентов. Если чего-то не хватает, то умная машина сможет это заказать в Интернет-магазине. Для этого робот будет наделен частичными правами по использованию необходимых денежных сумм. Или хозяин рассчитается за покупку дистанционно.

Получив все необходимые продукты, робот приступит к приготовлению блюд. В качестве помощников он сможет использовать кухонные комбайны. После возвращения с работы хозяин робота получит свежеприготовленный обед.

В коттеджах роботы будут использоваться для уходом за газонами и с иными целями.

Функционал домашних роботов неограничен. Например, ранее я уже отмечал, что скоро появятся роботы для сексуальных услуг. Это тоже разновидность бытовых роботов.

В отдельную категорию бытовых роботов стоит выделить роботов-сиделок, которые ухаживают за больными и престарелыми людьми. Эти помощники уже умеют выполнять простые операции, существенным образом улучшая жизнь больных и пожилых людей. Если нужно, роботы смогут кормить немобильных людей с ложки, будут гулять с ними по улице. Также роботы хорошо справляются с проблемами одиноких людей. Ведь они могут поддержать несложный разговор. А с появлением искусственного интеллекта роботы станут интересными собеседниками для многих людей.

Конец ознакомительного фрагмента.

Примечания

3

Глобальное будущее 2045. Конвергентные технологии (НБИКС) и трансгуманистическая эволюция. Под ред. проф. Д.И.Дубровского. — М.: ООО «Издательство МБА», 2013. — С.84

4

Джордан Д. Роботы / Джон Джордан: Пер. с англ. — М.: Издательская группа «Точка», Альпина Паблишер, 2017. — С.75

5

Турчин А. В. Футурология. XXI век: бессмертие или глобальная катастрофа? / А. В. Турчин А. В., Батин М. А. — М.: БИНОМ. Лаборатория знаний, 2017. — С.212

6

Сергеев Е. Роботизация обходит нас стороной — http://worldcrisis.ru/crisis/2577032

7

Рифкин Дж. Третья промышленная революция: Как горизонтальные взаимодействия меняют энергетику, экономику и мир в целом / Джереми Рифкин; Пер. с англ. — 2-е изд. — М.: Альпина нон-фикшн, 2015. — С.169