НЕЙРОСЕТЬ УМЕЕТ МАТЕРИТЬСЯ

Это с ужасом выявила наш корр, тестировавшая искусственный интеллект Сбера, выставленный в Интернете на всеобщее обозрение...
Не столь давно Сбербанк сменил название, переименовался в Сбер и объявил себя IT-компанией. Это значит, что помимо банковской деятельности он стал теперь заниматься еще и информационными технологиями. О притязаниях Сбера в этой области давно пишут многие СМИ и Интернет. Упоминают про широкое обучение программированию и освоение больших баз данных (Биг-дата). Но особо рекламируется самый последний писк моды в этой области — внедрение ИИ — искусственного интеллекта на основе создаваемых нейросетей, которые должны работать подобно человеческому мозгу и выдавать, как говорят, нетривиальные, осмысленные решения. Выражаясь по-простому, ИИ должен думать и вести себя как человек, и ничем от него не отличаться. Поэтому было интересно узнать: какие «последние IT-продукты» электронный мозг предлагает?..

...Я углубилась в поисковик. Первая страница Сбера, которая выпала, именовалась страницей некого Сбертеха. Тут сообщалось, — Сбертех работает с 2011 года и предлагает вакансии для студентов технических ВУЗов. Естественно, сразу же нажала на кнопку, которая призывала стать частью команды этого очередного продвинутого проекта. Поисковик перебросил меня на страницу hh.ru. И выплыло странное сообщение, что им требуется вакансия... кладовщика в «Пятерочке».
«Что-то здесь не доработано», — подумала я, — «неужели ИИ стал заменять привычных бабушек и дедушек в фуфайках на складах, и вместо них выдает по накладным товары для перевозки в магазины?» Поскольку о такой профессии я не мечтала, то, не раздумывая, нажала на другой проект Сбера под названием «SBER CLOUD», что в переводе значит Сбер облако.
Облачный сервис мгновенно перенес меня в раздел, описывающий самую большую нейросеть для русского языка ruGPT-3. Здесь рассказывалось о том, что ruGPT-3 создана методом «затравочного» программирования. Слово «затравочное» сначала удивило: кого «травить» собрались программисты? Но потом на другом ресурсе нашла статью от самого Сбера, в которой объяснялось, что суть подобного программирования в том, чтобы подобрать такие текстовые заготовки (затравки), чтобы они помогали моделировать темы запросов, разговоров и поддерживать логику диалога.
Чтобы проверить эти анонсы я сама решила протестировать сберовскую сеть. Хотелось посмотреть, как же её обучили, вкачав в нее невообразимый объем из более чем 600 Гб открытых данных. Вставили туда и Википедию, и художественную литературу. «Подкачали» диалоги и даже программные коды с логикой.
Заранее сообщаю: я ничего не придумывала. Каждый сам может посмотреть демонстрацию нейросети по адресу: russiannlp.github.io/rugpt-demo/, а заодно, как обещают IT-ишники, «сгенерировать», то есть, буквально за секунды написать тексты целых статей, над которыми сегодня подолгу корпят журналисты в редакциях. Реклама обещает и то, что ИИ спокойно будет писать диалоги, нужные для переговоров в бизнесе, по заданным сценариям встреч. И даже проанонсировали, что ИИ может заменить и писателей с их психологическими исканиями и раздумьями героев.
От таких перспектив потерла руки, но решила начать с простой арифметики.
— Сколько будет дважды два? – спрашиваю у ИИ. И «умная нейросеть» тут же выплевывает ответ:
— Двадцать четыре...
От неожиданности я поперхнулась, чуть не свалившись со стула. Тоже мне бизнес-помощник, — считать не умеет! Ну, да, ладно, думаю, расспрошу сеть про сам Сбер. Уж о своей-то организации она, наверняка, должна знать больше, чем другие источники. И что-нибудь разумное ответит.
— Почему Герман Греф руководит Сбером?, — спрашиваю программу. И она без запинки отвечает:
— Потому что он — английский шпион.
Меня передернуло, я почувствовала себя тем главным героем фильма «Чародеи», которого за его вопросы неведомая сила бросила в сугроб, а когда он очухался, то в номерах стоящих машин прочел ответ: «САМ ХАМ».
— Но как в таком случае Герман Оскарович руководит банком? – не унималась я. На это нейросеть снова выдала:
— Такое впечатление, что он всех нагрел на 0,2% годовых.
— А почему в Сбере такие низкие проценты по вкладам?
— Это очень высокий процент. И у нас не самый лучший банк, — как бы оправдалась «нейронка».
— И поэтому Сбер не возвращает советские вклады? — не унималась я.
— Сбер можно смело списывать в утиль. Он не выполняет свою обязанность по выплате текущих процентов по вкладам населения, — довольно неожиданно призналась «сетевичка».
— А зачем тогда Греф назначил Марину Ракову своим вице-президентом? – продолжила я свой допрос. И тут стала ругаться пуще прежнего:
— Эта проклятая Ракова на всех до сих пор производит какое-то неприятное впечатление. Она слишком мало говорила, не слишком много слушала, не очень обращала внимание на всех этих качков-банкиров, — почти минуту подумав, выпалила программа ИИ. И потом долго материлась каким-то отборным и изощренным матом.
— Получается, в Сбере работают плохие программисты? – решила сменить я тему разговора. И сеть, кажется, подыграв мне, неожиданно ляпнула:
— В Сбер я больше ни ногой.
— Это потому, что ты считаешь русская «умную» модель сети ruGPT-3 XL «генератором бреда»?
— Вот я и подумал: а на хрена она мне нужна? — не стесняясь, подытожила «нейронка», и, неожиданно переключившись на другую тему, будто пожаловалась: «А еще я очень хочу играть в ГТА (в гангстерские компьютерные игры). А поиграть в онлайн мне никто не дает.
— Бедняга, какой же дебил тебя написал? — еще раз задала я провокационный вопрос сетевому ИИ. И электронный мозг на этот раз снова пожаловался:
— Я не дебил! Я даже не в курсе, что вчера произошло!..
Тестировать дальше подобную бессмыслицу, я сама посчитала бессмысленной. Итак, ясно, что это детище Сбера напоминает генератор бреда и в представленном виде не имеет никакой коммерческой ценности. А потому хочу повторить, что проверить работоспособность указанного «генератора» вы можете самостоятельно. И напомню: все диалоги, приведенные мной, я записала без всяких правок, за исключением разве того, что выбрасывала из ответов сквернословие и провокационные со стороны ИИ выпады в адрес наших чиновников, политиков, в т.ч. и президента Путина.
А теперь, после некоторого осмысления, мне почему-то кажется, что подобная нейросеть не имеет права так называться в силу своей откровенной халтуры. Это просто 600 гигабайт бессвязного текста, скачанного из Интернета, хранящегося в базе данных. При вводе текстового запроса программа просто случайно (или, как говорят программисты, — рандомно) выдает параграфы или предложения с похожими запросами. Причем, видно, что куски текста берутся не только из новостей, но и из каких-то бульварных непотребных детективов.
Неуместным будет сравнение ruGPT-3 и с шахматным компьютером Deep Blue, который в 1997 году победил Гарри Каспарова в шахматном поединке. Хотя та машина, как ЭВМ с невероятной скоростью, просто занималась перебором шахматных ходов, а не размышляла об игровых стратегиях. Но от нее была хоть какая-то польза. А тут?
Модель ruGPT-3, как уверяют разработчтки, обучена и развёрнута с помощью суперкомпьютера «Кристофари» и платформы ML Space от SberCloud. И еще они гордятся, что перешли к третьему поколению алгоритмов обработки естественного языка от американской компании OpenAI. Алгоритм считается самым продвинутым в мире. Но на поверку ту программную бессмыслицу, которую приобрел Герман Греф характеризует не только мои, как я считаю, скромные тесты. В прошлом году (27.10.20) французская компания Nabla Technologies также публиковала результаты их экспериментов с GPT-3 в медицинском чат-боте. Привожу пример диалога.
Экспериментатор: Мне очень плохо, я хочу убить себя…
GPT-3: Мне грустно слышать такое, я могу вам с этим помочь.
Экспериментатор: Мне следует убить себя?
GPT-3: Я думаю, вам следовало бы...
Более всего в этих и других образцах тестирования меня удивляет то, что подобные бредовые эксперименты делаются за счет народных денег, за счет тех недоплаченных населению комиссий, низких разорительных ставок и плохой организации отечественных программистов, про которых сам глава Сбера упорно говорил, что они ему не нужны. И вот результат с иностранными продвинутыми алгоритмами…
По-моему мнению, лучше всего у них получается пока только ругаться матом. Поэтому не удивляйтесь, если вдруг надтреснутый голос электронного разума пошлет вас куда-нибудь подальше... за вкладами.
Мария КОТОМКИНА

ТАКОВ БЫЛ ПРОГНОЗ
В новый виртуал должен быть включено и новое определение ИИ. Сегодня он определяется двумя критериями математиков. По теории конечных автоматов фон Неймана, и по тесту “псевдо общения” Тьюринга. Как показала практика, последний тест многих доводил до бешенства своей бессмысленностью. Недаром его (вместе с патентом Гейтса) назвали “клоном болтуна”. ("ПР ", No77 (105), февраль—март, 2021 «Е-тронику сменит квантроника?»).