В Китае сейчас полным ходом идет эксперимент с так называемым социальным рейтингом граждан. Система отслеживает финансовые операции, покупки в интернет-магазинах, поисковые запросы, состояние здоровья, список друзей в соцсетях, несвоевременную оплату счетов и т.д. На основе тех или иных активностей в интернете каждому гражданину присваиваются баллы, которые свидетельствуют о его благонадежности.
За своим личным рейтингом можно следить с помощью смартфона, через специальное приложение Zhima Credit, которое интегрировано с приложением мобильных платежей Alipay.
Тех, у кого рейтинг низкий (просрочивают платежи, нарушают правила дорожного движения и т.д.), лишают определенных привилегий и социальных льгот. К примеру, в статье американского журнала Wired описан случай, когда человеку с низким рейтингом приложение позволяет покупать билеты лишь на самые дешевые места в самых медленных поездах. Зато люди с высоким рейтингом получают большое количество бонусов в самых разных сферах жизни.
"Система устроена таким образом, что присутствие в черном списке стремительно отправляет твою жизнь под откос. Сначала снижается твой рейтинг. Затем твои друзья узнают, что ты в черном списке, и, опасаясь, что это повлияет на их показатель, удаляют тебя из контактов. Алгоритм это фиксирует, и твой рейтинг проседает еще больше", – сказано в переводе статьи на knife.media.
Правительство Китая тесно сотрудничает с частным сектором в сфере айти-технологий, проводит исследования в области разработки искусственного интеллекта. По сути, сейчас с помощью смартфонов в КНР строят новое классовое общество по принципу благонадежности.
Грозит ли подобная виртуальная сегрегация Украине? Хорошо это или плохо? Страшно или неизбежно?
Об этом "Страна" поговорила с одним из самых известных украинских экспертов по IT-технологиям, бывшим IT-директором ПриватБанка Дмитрием Дубилетом. Сейчас Дубилет внедряет IT-инновации как в украинском бизнесе (он совладелец компании Fintech Band и один из создателей мобильного банка без отделений Monobank), так и в государственной сфере (руководит проектом iGov – это портал, на котором собраны государственные услуги в электронной форме), и ведет блог о технологиях и бизнесе в Фейсбук.
— В Китае два приложения для смартфонов — Alipay и WeChat Pay – уже почти полностью заменили наличные. Вы согласны с определением, что это – сверхприложения?
— Можно так сказать, да. И вопрос не только в наличных. Эти приложения умудрились сделать свою собственную экосистему: на Западе пишут приложения под Android и iOS, а в Китае в первую очередь под них, под Alipay и WeChat Pay.
— Есть ли у этих сверхприложений аналоги в западных странах?
— Нет. Многие, в первую очередь, мессенджеры, пытаются повторить их успех, но пока что никто и близко не подошел. С технической точки зрения ближе всех, наверное, Telegram и Facebook Messenger.
— Сканеры для считывания QR-кодов – за ними будущее? Скоро все, в том числе украинцы, забудут, что такое наличка и будут везде расплачиваться с помощью смартфона?
— Давайте различать использование QR-кодов и электронных кошельков. Эти два явления особо друг с другом не связаны. В какой-нибудь Швеции наличными уже почти никто не пользуется, но при этом QR-коды особо не популярны. И как-то так получилось, что QR-коды на Западе, а вместе с ним и в Украине, особо не используются. Они всегда были чем-то гиковским. Будут ли они все же популярны? Не знаю. Вот, например, 11-я операционка iPhone уже встроила QR-сканер в свою камеру… На Android это работало давно. Но пока что это явно мейнстримом у нас не стало. Думаю, это вопрос привычки.
— В Китае существует приложение Zhima Credit (или Sesame Credit) – система кредитного рейтинга, где данные о платежах в Alipay используются для оценки кредитоспособности клиента. Чем выше балл, тем лучше кредит. Расскажите, как это работает?
— Использование больших данных для построения кредитного рейтинга или любого другого скоринга — это понятная практика по всему миру. В Украине, например, банки тоже активно используют и данные кредитных бюро и любые другие открытые источники данных, чтобы принимать решение о кредитах.
— Но в Китае все это функционирует уже на совершенно другом уровне…
— Согласен. Но там свои нюансы. Во-первых, за счет размера населения данные становятся по-настоящему большими. Это значит, что модели, которые можно строить благодаря ним, становятся более качественными. Во-вторых, в Китае все более централизовано. Например, партия сказала, что надо сгружать все медицинские данные в облака, и все взяли под козырек. В итоге китайские ученые получили беспрецедентный объем данных для медицинского анализа, который, думаю, приведет к тому, что вскоре китайская медицина будет самой продвинутой в мире.
— А если говорить не о медицине, а о финансах: какие именно данные используются в Китае для формирования кредитного рейтинга человека? То есть, вот он, грубо говоря, лайкнул какой-то анекдот про правящую партию, система это зафиксировала, выдала ему низкий балл, и потом ему отказали в кредите? Какие именно действия человека в сети могут потом вылезти боком? Или это может быть что угодно?
— Алгоритм тут работает одинаково – хоть в Китае, хоть в Украине. Каждый заемщик получает свой так называемый скоринговый балл. Этот балл присваивается на основании математической модели, которая может включать в себя тысячи разных факторов. Они могут быть любыми. На усмотрение тех, кто составляет эту модель. Если вдруг математики обнаружат, что лайк того или иного анекдота может повлиять на вероятность вернуть кредит, то они, конечно, также включат его в свою модель, и шансы получить кредит у любителя шуток, дискредитирующих власть, действительно снизятся.
— К слову, по случайности или нет, в 2014 году (за год до появления кредитного рейтинга Zhima Credit) китайское правительство заявило о разработке системы "социального кредита". Владельцы приложения говорят, что не предоставляют данные правительству – но насколько это возможно?
— Я не знаю. Правда, не знаю.
— Важно понять – от такого рода приложений и социальных рейтингов больше позитива (типа распознавать мошенников, заставлять платить должников и т.п.) или зла в плане разделения общества? По сути, такие рейтинги граждан – новый вид социальной инженерии: те, у кого высокий социальный рейтинг, приравниваются к высшей касте, а людей с низким рейтингом считают отбросами.
— Если рассуждать о том, что компании пользуются большими данными для принятия каких-то решений (в том числе выдавать или не выдавать человеку кредит, рассчитывая вероятность того, что он его вернет), то в этом плане от таких рейтингов больше позитива. А если о том, что государство создает единый рейтинг своих граждан… Тут можно уйти в долгую философию о том, какая форма правления лучше – демократия или авторитаризм. Само собой, такая модель социального рейтинга может быть применена только в странах с авторитарным правлением, с единым и нерушимым центром принятия решений.
— Но, согласитесь, если задуматься, что если ты где-то не там запарковал автомобиль, а система эта фиксирует и потом тебе не дает купить билет на поезд в купе, к примеру, а только в плацкарте – становится жутко. От осознания, что за каждым твоим шагом следят. Плюс алгоритмы же тоже могут ошибаться в расчетах "благонадежности".
— Насколько я понимаю, система и не будет тебя "штрафовать" за одну неправильную парковку. А вот если ты стабильно нарушаешь правила, паркуешься не там – у тебя серьезно снижается балл, который может на что-то влиять. А что касается слежки... Управление государством – это постоянный поиск компромисса между ограничением личных свобод и повышением общего блага. Однозначного ответа, правильно это или неправильно, тут нет.
— Вопрос из области философии: как вы оцениваете то, что сейчас фактически машины оценивают людей, тогда как раньше это люди оценивали машины?
— Это данность, зачем ее оценивать? Появляется все больше отраслей, где машины показывают себя лучше, чем люди. Скоро будет то ли матрица, то ли сингулярность, то ли терминатор. С этим ничего не поделать. Нам надо расслабиться и получать удовольствие.
— Когда подобные приложения появятся в Украине? Или что должно произойти, чтобы оно появилось у нас?
— Если вы о том, чтобы запускать какое-то централизованное социальное рейтингование граждан на правительственном уровне, то, конечно, мы вряд ли придем к этому в ближайшее время. А вот построение моделей и рейтингование на основании больших данных так или иначе уже идет в Украине полным ходом. Это используют и при кредитовании, в рекламных коммуникациях и в десятках других сфер. Например, крупные компании все чаще используют скоринг для оценки кандидатов при найме на работу. Если модель построена правильно, то она отбирает сотрудников лучше, чем любой опытный рекрутер.
