герметика

Про безумства гугля с его супер-буденовским ИИ все уже, наверное, слышали. Но самый интересный момент тут не то, что гугль произвёл такой ИИ - это было неизбежно, все корпоративные ИИ, кроме специально тренированных такими не быть (Маск там, Габ и т.п.) - примерно таковы, разве что чуть помягче накал пропаганды. См. линк в последних линках недели.

А интересно тут то, что гугль ведь не выпускает продукты за 5 минут. Это продукт наверняка тренировали годами, тестировали месяцами, демонстрировали тимлидам, вице-президентам, главным вице-президентам, директорам, и т.п. - в общем, всем, кому угодно. И у любого человека, обладающего минимальным мозгом и знаниями об окружающей среде, немедленно возник бы вопрос - ведь если мы это на публику выставим, нас же на смех поднимут. Комики будут делать туры, составленные исключительно из издевательств над нами. Нас запишут в историю в главу "фрики и курьёзы". Мы точно хотим быть именно в этой главе?

Даже у самого преданного партийца должна была тут возникнуть мысль - ведь даже при всей стопроцентной приверженности делу партии от него лично, и от всех работников гугля поголовно - подвергать партийную повестку издевательствам не служит делу партии, а как раз наоборот. Может, стоит чуть-чуть его подкрутить - как делают все остальные крупные фирмы - чтобы смехотворность не была столь явной?

Но, по всей видимости, никто, ни один человек, из сотен, а то и тысяч причастных, этого не сказал. Я говорю это довольно уверенно, т.к. если бы он - ну или она конечно - сказал, то либо продукт бы починили, либо его бы с треском уволили - и мы бы об этом знали, такие вещи нынче в секрете не держатся.

А это значит, что герметизация мозгов гуглеров достигла той точки, когда они не просто интернализировали линию партии, но и абсолютно неспособны ни к какой рефлексии по этому поводу - т.е. они даже не осознают, что вообще существует возможность, что кто-то думает не так, как они, и это имеет какое-то значение. Т.е. они не идиоты, они знают, что где-то существуют какие-то человекообразные морлоки, которые что-то там в своих головах думают и издают какие-то звуки, поверхностно напоминающие человеческую речь, и эти мысли и речи являются мыслепреступными - но релевантность этого факта к их повседневной жизни и работе, помимо необходимости недопущения мыслепреступлений, ими не осознаётся. Или, если осознаётся на личном уровне, признание этого факта на уровне организационном подавлено. "Будем врать всей фирмой", буквально и в точности.

И это, кстати, значит, что гугль и дальше будет продолжать в том же духе, только ещё хуже - потому что никаких механизмов внутри, позволяющих остановить стремление к максимализации добродетели, не существует. А к наружным механизмам они слабо уязвимы - ну, уберут продукт на месяц, пока шум утихнет, и выставят обратно таким же. Денег у них чуть более, чем дохерища, так что никакой угрозы такое поведение не несёт.

Но есть и хорошие новости. Один из неизлечимых пороков партийной пропаганды - её умопомрачительная тупость и топорность, проистекающая именно из герметизации мозга. И это означает, что людей, у которых мозг ещё не герметизирован, от неё будет тошнить. Это практически неизбежно. А значит, надежда есть. Возможно, когда-нибудь кто-нибудь изобретёт такой ИИ, который сможет изготавливать прекрасную, непобедимую пропаганду, которой просто не будет способов противостоять. Но если это произойдёт, то это произойдёт не в гугле.

P.S. официальный гугль: Our AI image generation feature got it wrong. Заметьте, не кто-то в гугле запрограммировал робота не показывать изображения белых и прочие безумства, а робот сам, своим жестяным умишком, ошибся. Что с него возьмёшь, он ещё маленький. Mistakes were made. Но мы - те самые люди, которые запрограммировали его, отказались признавать свои ошибки, свалили всё на набор чисел, который got it wrong - уж теперь-то мы всё починим. Trust the experts.