Интернет как иллюзия. Обратная сторона сети

Скажем, розовый цвет для “Гриндэм” – это первый признак порнографии. Если система замечает на просмотренных пользователем фотографиях избыток розового, она закрывает программу для просмотра изображений. Любопытно, что снимки обнаженных людей с темным цветом кожи программа не распознает.

Тревожнее всего то, что “Гриндэм” снабжен “черным ходом”, который позволяет программе связываться со своим “штабом” в Сети и делиться наблюдениями о характере пользователя, вверенного попечению программы. Это позволяет обучать другие компьютерам в сети новым способам идентификации нежелательного контента. “Гриндэм” – самообучающаяся и обладающая колоссальным потенциалом сетевая система цензуры: как только программа поймет, что некто набирает в поисковике слово “ди ма кратия” вместо “демократия”, чтобы обмануть цензоров, остальные пользователи воспользоваться этой лазейкой больше не смогут.

Вообразите глобальный мозг, который ежесекундно собирает подсказки от миллионов пользователей, пытающихся обвести систему вокруг пальца, и почти сразу же использует их, чтобы закрыть имеющиеся лазейки. “Гриндэм” – это неудачное воплощение в высшей степени плодотворной и опасной идеи.

Время расстаться

Правительствам, однако, нет необходимости ждать появления революционных разработок в сфере искусственного интеллекта, чтобы принимать более обоснованные решения о том, что цензурировать, а что нет. Отличие интернета от других медиа в том, что информация в Сети связана гиперссылками. По большому счету, все эти ссылки служат положительными аттестациями. Когда пользователь посещает определенную веб-страницу, он “голосует” за нее, и она приобретает некоторый авторитет. “Гугл” сумел свести воедино все эти нано-аттестации (сделав число входящих ссылок прогностическим параметром релевантности поискового результата) и извлекает из этого большую выгоду.

Кроме того, гиперссылки позволяют обобщать контекст, в котором появляются определенные фрагменты информации, причем понимать смысл этой информации совершенно не обязательно. Если в десятке антиправительственных блогов появится ссылка на документ PDF, размещенный в блоге, который прежде не попадал в поле зрения киберполицейских, они могут решить, даже не заглядывая в него, что документ заслуживает блокирования. Ссылки (подтверждения релевантности от блогеров-оппозиционеров) говорят сами за себя, и файл. плох уже поэтому. Благодаря “Твиттеру”, “Фейсбуку” и другим социальным медиа тайной полиции гораздо проще выявлять такие связи.

Если авторитарные правительства овладеют искусством сбора популярных ссылок, которыми оппозиционеры делятся в “Твиттере”, “Фейсбуке” и других социальных медиа, они найдут изящное и, главное, надежное решение всех проблем цензора. Хотя абсолютный объем информации (в нашем случае – количество ссылок) будет расти, это не повлечет за собой ослабление цензуры. Она просто будет более тонко настроена. Цензуры, которая стрижет всех под одну гребенку, станет меньше, но это едва ли повод для радости.