НАШ ЦИТАТНИК: «Сегодня в более выгодном положении оказались «девелоперы одного проекта», если они работают по старой схеме. Такой застройщик завершит проект, получит прибыль и уйдёт...» Вера Серёжина

11 августа, 03:57

Ненужное будущее

30 января в 15:38
2 266

Ненужное будущее

От Наполеона и вермахта Россию спасали мороз и дороги, от «цифровой диктатуры» убережёт «человеческий фактор».

на страницу_Колонка обозревателя NSP.RU

Знаменитый израильский историк и футуролог Юваль Ной Харари выступил на форуме в Давосе. Он назвал три глобальные проблемы, стоящие перед человечеством: угроза ядерной войны, экологический кризис и технологический крах. 

Первые две темы обсуждаются давно и подробно; третья пока свежа. Юваль Харари полагает, что новые технологии действительно обещают небывалое процветание. Но это лицевая сторона. Есть и оборотная. «Автоматизация скоро лишит миллионы людей работы, сделав их бесполезными… Раньше люди сражались против эксплуатации. Но быть невостребованным на рынке труда куда хуже, чем быть эксплуатируемым…» Миллионы ненужных людей, даже если не с российской пенсией, а с гарантированным доходом, – невесёлая картина.

Будущее уже здесь. В Китае ставка по кредиту, возможность перейти на госслужбу или получить визу уже сейчас зависит от социального рейтинга, сформированного на основе big data. Половина риэлторов уже сейчас не нужна – весь поиск и две трети сделки выполняет машина. Очередь за бухгалтерами. Основная часть работы оценщика – подстановка новых данных в старые таблицы и копи-паст. Сбербанк в ближайшие пять лет планирует уволить 110 000 человек… Роботы пишут заметки для Associated Press и сервиса Yahoo News, для The Los Angeles Times и Sports.ru. У нас это пока не так распространено, хотя Яндекс обещает. (Впрочем, почитаешь некоторых коллег – уж лучше бы и впрямь роботы писали.)

Другой аспект технологической угрозы – «цифровая диктатура». Сегодня технически возможно – и не так уж затратно – знать о вас всё. Привычки, наклонности, тайные сделки, грязные секреты… Собственно, Сеть знает вас лучше, чем вы сами. И может предугадывать ваше поведение. Мир уже совершенно прозрачен (по крайней мере, та его часть, которая накрыта мобильной связью и Интернетом). Пока в прицеле знаменитости. Один из богатейших людей планеты Джефф Безос, звезда Голливуда Хью Грант, экс-кандидат в президенты Хиллари Клинтон, экс-премьер Дмитрий Медведев – все они стали жертвами компьютерного взлома или утечки… 

Взламывать аккаунт Пупкина никому не улыбается. Но если речь идёт о сотнях миллионов Пупкиных – это совсем другая история. Это уже глобальный рынок. Или электорат.

«Система, которая понимает нас, – говорит Харари, – сможет предсказывать наши чувства и решения. И манипулировать ими. А затем и принимать эти решения за нас».

Ладно, оставим в стороне политику. Банк отказал вам в кредите. И оператор не может объяснить, почему – он тупо не знает. И начальник кредитного отдела не в курсе. Потому что решение принимал алгоритм. Вы будете смеяться, но и программист, который писал код, тоже ничего толкового не скажет! Потому что нейросеть обучается, учитывает тысячи параметров, и как это всё работает – неизвестно. Может, оказалось, что рыжие возвращают долги хуже шатенов. Может, два ваших предыдущих развода сказались. Или долг в 17 копеек за электричество, зависший в каком-то лохматом году. Будете мучиться в догадках, но правды не узнаете никогда.

Пару лет назад в мире IT случился дивный эпизод. Программисты FB решили повысить эффективность чат-ботов. Это программы, которые отвечают на ваши вопросы в приложениях. Двух ботов замкнули друг на друга и дали им возможность самообучения – ну, чтобы ответы получались точнее и подробнее с каждой итерацией. Боты поговорили, начали вырабатывать собственный язык, перешли на него и отказались сообщать его правила программистам. (Ну, не прямо отказались – скорее, не смогли объяснить.) Их от греха отключили… Это пока не угроза. Это метафора.

Эксперт Таина Бучер из Университета Осло пишет о лавинообразном распространении алгоритмов. Но она уверена, что нас спасёт «человеческий фактор», что важные решения, связанные с ценностями, должен всё-таки принимать человек. (В качестве примера она приводит историю с классической фотографией «Ужасы войны»: вьетнамская девочка бежит от бомбёжки. FB её раз за разом банит, классифицируя как порнографию.)

По мнению публицистов, опасность «цифровой диктатуры» особенно велика в авторитарных и тоталитарных государствах.

Ну, не знаю. Грозят ужесточением налогового бремени. Премьер у нас как раз из фискалов и с «цифрой» на ты. Все наши сделки и переводы денег зафиксированы, посчитаны и хранятся (про запас) на серверах, на территории РФ. Все наши квартирки и дачки учтены и занесены в кадастр. Определить их истинную стоимость – как два клика об асфальт. Но КАК обучить машину, что вот этому, тому и вон тому гражданину присылать декларацию НЕ НАДО? И на странную стоимость участка – Рублёвка, 30 000 рублей за гектар – тоже обращать внимания НЕ НАДО! Машина учится на обработке данных. Причём сплошной, а не выборочной. Если считать выборочно – алгоритм поломается. Отрезать чиновников? – Тоже не получится. Во-первых, текучка: сегодня он боксёр, завтра – губернатор. Боксёров из перечня исключать? Во-вторых, участки и поместья чиновники получают даже не от государства, а от друзей-предпринимателей… В-третьих, на самом низовом уровне отдельные недобросовестные кадастровые инженеры так участки двигают и кромсают, что глава государства только диву даётся. Так что – только в ручном режиме! Алгоритмы у нас имеют весьма ограниченное применение.

В общем, «суровость законов российских» смягчается не только необязательностью их исполнения, но и принципиальной невозможностью соблюдать их в точности. Рикошетом прилетит обязательно.