Я уже представляю, как Яндекс выкатит умную версию Алисы в конце года. Привык, допустим, таксист общаться с нынешней Алисой, у которой диалоги на уровне потешных болталок эпохи модемного интернета:

— Привет, Алиса, меня зовут Вася!
— Привет от старых штиблет!
— Как меня зовут?
— Разве вы сами не помните? У вас же такое красивое имя.

Понятно, что это и близко не диалог, но в некоторых ситуациях всё же лучше, чем совсем ничего. И тут вдруг хоп — обновление Алисы до уровня ЧатЖПТ. Таксист жалуется Алисе, что у него проблемы с продлением патента, ожидая услышать в ответ что-то бессмысленное типа «Привет от старых штиблет!». А слышит вместо этого внятный и логичный анализ ситуации, вот как старшая сестра ответила бы. Таксист возгласом выражает сильное удивление, а Алиса… переходит на его родной таджикский язык! Будет весело, я уверен. И, да, если вы сомневались, я проверил: ЧатЖПТ умеет говорить на таджикском, равно как и на других подвидах персидского языка.

До нас шоковая волна ещё не докатилась, так как для подключения к ЧатЖПТ из России надо слегка напрячься, и так как к роботу «из коробки» не прикручен голос, как к Алисе. Однако ИИ — это не модная игрушка типа спиннера. Это переломный момент, что-то типа появления автомобиля или смартфона как минимум. Даже если новые ИИ не станут значительно умнее (а они наверняка станут), наша жизнь изменится кардинально.

Свежая новость — мошенники начали массово имитировать чужие голоса . Теперь американскому пенсионеру звонит не подозрительный незнакомец, а вот прямо лично его сын, говорит, что попал в беду, и просит перевести денег. Американский пенсионер переводит, — голос-то знакомый, — и банк попадает на деньги. Я пишу «банк», так как в США в таких случаях банк возвращает деньги пенсионеру. Очень мудрые порядки, к которым, спасибо Эльвире Сахипзадовне, в последние годы движемся и мы.

Криминалист в статье говорит, что речь идёт про «идеальный шторм», так как люди склонны терять бдительность, когда слышат в трубке родной голос. Однако, думаю, он ошибается, пока что это не идеальный шторм, а всего лишь идеальная рябь на спокойной воде. Идеальный шторм на 9 баллов из 12 ещё впереди. Потому что следующий очевидный мошенникам шаг — подключить ИИ к массовому обзвону клиентов. В первый заход ИИ при помощи социальной инженерии собирает максимум информации о собеседнике и делает слепок его голоса. Во второй заход робот звонит контактам жертвы, подделывая её номер телефона и её голос, и выманивает у них деньги. И всё это легко масштабируется до любого уровня, хоть до 10 миллионов звонков в день.

Откуда мошенники возьмут ИИ? Ну вот на днях у Марка Цукерберга стянули модель LLaMA-65B на 65 миллиардов параметров. Теоретически её уровень даже выше, чем у знаменитого ЧатЖПТ, изменившего правила игры. На практике пока не выше, ибо модель нуждается в тонкой настройке, однако это решаемая задача, и огромное сообщество любителей машинного обучения уже работает над этим не покладая рук. Модель уже выложена на торрентах, умельцы уже запускают её на домашних компьютерах — в урезанном виде на обычных игровых видеокартах, в полном виде — на старых майнинговых фермах. По моим прикидкам, для запуска Лламы-65Б во всей её мощи нужно или железо стоимостью в миллион рублей, или аренда сервера за 1000 рублей в день. Вполне доступный для мошенников бюджет.

Некоторые наивные души ставят запрет на приём входящих с незнакомых номеров. Ха! В новой реальности так можно будет защититься разве что от заблудившегося курьера с горячей пиццей. Потому что ИИ позвонит вам не только голосом вашего брата Николая, но и с его номера телефона. Робот скажет, что ваш племянник Аркадий связался с нигилистами, вляпался в плохую историю, и прямо сейчас нужно 50 тысяч рублей, чтобы его спасти. А так как вы будете хорошо знать всех действующих персонажей, вам и в голову не придёт усомниться в легенде.

Откуда робот будет знать подробности жизни ваших родственников? Ну так он до того позвонит Анечке, подруге Аркадия, представившись сослуживцем её покойного мужа, и выведает у неё всю нужную информацию, включая номера телефонов. Позвонит Аркадию. Позвонит Николаю. И от каждого контакта будет получать или новые данные, или слепок голоса для мошенничества, или денежный перевод.

До последнего времени мошенников сдерживал кадровый голод и низкий КПД звонков. Умный робот, умеющий подделывать голоса, устраняет оба препятствия. Один-единственный чёрный девопс, преступник с навыками системного администратора, может теперь развернуть схему любого масштаба. Добро пожаловать в будущее, знаменитая сцена из Терминатора 2 с телефонным разговором стала реальностью в 2023 году :Как защититься от такого мошенничества на личном уровне — понятно. Перезвонить собеседнику, если он попросит вас сделать денежный перевод или, вообще, будет вести себя странно. Как защититься на уровне своих близких? Никак. Вы не сможете объяснить друзьям и родственникам, что им надо быть осторожнее. Ваши близкие всё равно будут переводить мошенникам деньги, запускать файл ВЫ_ВЫИГРАЛИ_МИЛЛИАРД.exe и ставить к банковским счетам пароль qwerty123.

Как защититься на уровне государства? Вздрючить операторов сотовой связи, чтобы те начали банить мошенников на взлёте, да поработать вместе с банками над ускоренным закрытием каналов мошеннической обналички. Заставить банки и сотовых операторов вскладчину компенсировать обманутым гражданам 100% потерь. Но не факт, что даже это поможет, так как корень уязвимости заключается в автоматическом применении социальной инженерии, а голосовые звонки на традиционный телефонный номер — всего лишь один из каналов, которым могут воспользоваться злодеи.

Что реально защитит обывателей, так это ИИ-секретарь, который будет требовать от каждого звонящего представиться по всей форме, через аккаунт на Госуслугах — вот кто-то типа телефонного секретаря Тинькофф, только на основе современного ИИ и с государственной поддержкой.

Кстати, телефонный секретарь, он же верный слуга, он же близкий друг и хранитель секретов, скоро будет у нас в любом случае — у 95% взрослого населения как минимум, если не у 98%. Как я уже указал выше, наша жизнь изменится кардинально. Станет ли она от этого лучше или хотя бы безопаснее — большой вопрос.

https://olegmakarenko.ru/