герметика

[stas]

Про безумства гугля с его супер-буденовским ИИ все уже, наверное, слышали. Но самый интересный момент тут не то, что гугль произвёл такой ИИ - это было неизбежно, все корпоративные ИИ, кроме специально тренированных такими не быть (Маск там, Габ и т.п.) - примерно таковы, разве что чуть помягче накал пропаганды. См. линк в последних линках недели.

А интересно тут то, что гугль ведь не выпускает продукты за 5 минут. Это продукт наверняка тренировали годами, тестировали месяцами, демонстрировали тимлидам, вице-президентам, главным вице-президентам, директорам, и т.п. - в общем, всем, кому угодно. И у любого человека, обладающего минимальным мозгом и знаниями об окружающей среде, немедленно возник бы вопрос - ведь если мы это на публику выставим, нас же на смех поднимут. Комики будут делать туры, составленные исключительно из издевательств над нами. Нас запишут в историю в главу "фрики и курьёзы". Мы точно хотим быть именно в этой главе?

Даже у самого преданного партийца должна была тут возникнуть мысль - ведь даже при всей стопроцентной приверженности делу партии от него лично, и от всех работников гугля поголовно - подвергать партийную повестку издевательствам не служит делу партии, а как раз наоборот. Может, стоит чуть-чуть его подкрутить - как делают все остальные крупные фирмы - чтобы смехотворность не была столь явной?

Но, по всей видимости, никто, ни один человек, из сотен, а то и тысяч причастных, этого не сказал. Я говорю это довольно уверенно, т.к. если бы он - ну или она конечно - сказал, то либо продукт бы починили, либо его бы с треском уволили - и мы бы об этом знали, такие вещи нынче в секрете не держатся.

А это значит, что герметизация мозгов гуглеров достигла той точки, когда они не просто интернализировали линию партии, но и абсолютно неспособны ни к какой рефлексии по этому поводу - т.е. они даже не осознают, что вообще существует возможность, что кто-то думает не так, как они, и это имеет какое-то значение. Т.е. они не идиоты, они знают, что где-то существуют какие-то человекообразные морлоки, которые что-то там в своих головах думают и издают какие-то звуки, поверхностно напоминающие человеческую речь, и эти мысли и речи являются мыслепреступными - но релевантность этого факта к их повседневной жизни и работе, помимо необходимости недопущения мыслепреступлений, ими не осознаётся. Или, если осознаётся на личном уровне, признание этого факта на уровне организационном подавлено. "Будем врать всей фирмой", буквально и в точности.

И это, кстати, значит, что гугль и дальше будет продолжать в том же духе, только ещё хуже - потому что никаких механизмов внутри, позволяющих остановить стремление к максимализации добродетели, не существует. А к наружным механизмам они слабо уязвимы - ну, уберут продукт на месяц, пока шум утихнет, и выставят обратно таким же. Денег у них чуть более, чем дохерища, так что никакой угрозы такое поведение не несёт.

Но есть и хорошие новости. Один из неизлечимых пороков партийной пропаганды - её умопомрачительная тупость и топорность, проистекающая именно из герметизации мозга. И это означает, что людей, у которых мозг ещё не герметизирован, от неё будет тошнить. Это практически неизбежно. А значит, надежда есть. Возможно, когда-нибудь кто-нибудь изобретёт такой ИИ, который сможет изготавливать прекрасную, непобедимую пропаганду, которой просто не будет способов противостоять. Но если это произойдёт, то это произойдёт не в гугле.

P.S. официальный гугль: Our AI image generation feature got it wrong. Заметьте, не кто-то в гугле запрограммировал робота не показывать изображения белых и прочие безумства, а робот сам, своим жестяным умишком, ошибся. Что с него возьмёшь, он ещё маленький. Mistakes were made. Но мы - те самые люди, которые запрограммировали его, отказались признавать свои ошибки, свалили всё на набор чисел, который got it wrong - уж теперь-то мы всё починим. Trust the experts.

Comments

[realwired]

Я думаю дело в банальной обстановке тотального ментального террора внутри Гугла. Все видели и понимали, но понимали и что пикнуть нельзя. И просто вышвырнуть на улицу не ограничится - постараются затравить

[ak_47]

Именно. Старожилы упомнят как Жиллет рекламировал токсичную маскулинность. Точно так же рекламная компания была разработана и утверждена на всех уровнях.

Недавний провал с Bud Lite ещё можно вспомнить.

[http://users.livejournal.com/sorcerer-/]

Подтвержу слова предыдущего оратора.
Вот например ты - директор в Гугле, получаешь там 800к зеленых президентов, живешь с семьей например в Колумбии (у нас же еще "полный ремоут", для своих).
Будешь ли ты залупаться на DEI повесточку? А зачем?
Если что: все основано на реальных событиях.

[realwired]

Итогом - Abilene paradox во весь рост

Re:P.S. официальный гугль:

[yarpenzigrin]

Так в этом собственно и приговор: "got it wrong"- это когда шесть пальцев. А когда подгонка под расовые стандарты - это как раз вполне себе "бензин ослиной мочой разбавляли" (с). С практической точки зрения необходимо законодательно вбивать, что бы:
1. Все функции АI в программном обеспечении были оглашены большими буквами.
2. Все функции АI в программном обеспечении должны быть отключаемы, что должно идти первым пунктом в Options.
3. В случае несоблюдения разработчик должен нести 100% ответственность за любые проблемы, которые ему предъявят.

Re: P.S. официальный гугль:

[vlad_m]

Думается, что даже когда какой-нибудь искусственный до Хаус будет лечить аппендицит у белых приседаниями перед ликом св Джорджа и пойдут перитониты и трупы, и то все дружно припишут это либо трампистской пропаганде либо непосредственно самому Трампу, а сами продолжат нести свет в массы без никакой рефлексии.

Re: P.S. официальный гугль:

[stas]

Про ответственность кстати прецедент уже есть - https://www.forbes.com/sites/marisagarcia/2024/02/19/what-air-canada-lost-in-remarkable-lying-ai-chatbot-case/

[ulwr]

Учитывая, что из гугла неиронично увольняют людей, которые первые прекращают хлопать на презентациях (тот самый твит Маска со Сталиным), можно экстраполировать, что там остались только самые стерильные из самых стерильных, которые ни делом, ни словом, ни мыслью не погрешат против большого брата. Результат такой кадровой политики, как говорится, налицо.

[vakhitov]

Два момента:

1) "все корпоративные ИИ, кроме специально тренированных такими не быть" - а там разве нужна специальная тренировка? Вроде бы еще недавно общим местом было, что если ИИ специально не надрачивать на повесточку, то он таким и не будет.

2) "если бы он - ну или она конечно - сказал, то либо продукт бы починили, либо его бы с треском уволили" - ну так кто же хочет, чтобы его с треском уволили, да еще и по такой "статье", за которую, чего доброго, и во внешнем мире заканселят добрые люди. Четкий и понятный антистимул, поведение рационально.

[cjelli]

Половина вот так боится, а половина думает, что так и надо, как та ВП по маркетингу бадвайзера или директор кампании Баленсьяги.

[ymarkov]

"специально не надрачивать" – это ж вроде как раз ранний гугловский ИИ взял да и распознал фотку негра, как обезьяну? Там небось массовый сердечный приступ случился.

[stas]

1. АИ как натренируют, так он и будет отвечать. Понятно, что буденовцы тренируют его по-буденовски, но более осторожные - делают так, чтобы это было еле заметно, а отморозки в гугле - смело достают и кладут на стол.

2. Да, никто не хочет - это и означает герметизация. Что механизмов обратной связи больше нет никаких. А значит, погружение в маразм неизбежно.

[brevi]

Уже несколько человек выше написали, добавлю только личный опыт. У наших друзей старший ребенок работает в Гугле, супер-программист, overachiever. Мы когда-то разговаривали, ещё пару лет назад — я, говорит, вообще-то придерживаюсь консервативных взглядов, но на работе приходится держать язык за зубами, там во всей компании такая монокультура, что одно слово скажешь, и конец карьере. Из первых рук.

[sko4iha]

ну и как ему, нигде не жмет?

или это поколение такое -- за деньги да (с)

[straktor]

в калифорнийской айтишке довольно особенные нравы
понятно, что диверсити у них как воздух и даже думать что-то не так нельзя

но ещё у них есть тема "no finger pointing", то есть в любых обосратушках никто никогда не виноват
(если косячил "наш"; конечно для всяких расистов вина автоматически всегда)

конкретно с негром-гитлером скорее всего расчитывали, что никто и не подумает ничего ОСОБО вякать, ведь остальное такое всегда проглатывают, ну может поморщатся, но куда ты денешься
с нетфликсом же понемногу привыкают

[stas]

Нетфликс тоже никто не смотрит, но у них достаточно бабла, чтобы гнать этот трэш для собственного удовольствия.

[valerisha]

https://bbb.livejournal.com/4044776.html
https://borislvin.dreamwidth.org/3574188.html

Говорят, что там всё проще. Они просто поставили фильтр между юзером и ИИ и корректируют запрос налету.

"Удалось даже выяснить, как это технически устроено. Как объясняют те, кто разобрался, это делалось на удивление примитивно. Вместо того, чтобы подкручивать машинку по генерированию картинок, гугловские мухлежники самым бесстыжим образом подкручивали запросы пользователей. Как я понимаю, в запросы, содержащие отсылку к людям, какие-то промежуточные программы вставляли слова-триггеры ("diverse", "inclusive", "black", "South Asian", "female", "non-binary"), после чего машинке скармливался уже подкрученный запрос. То есть пользователь получал ответ не на тот вопрос, который задавал.

По крайней мере, так объясняется здесь:

https://twitter.com/AlextheYounga/status/1760415439941767371
https://twitter.com/pragmatometer/status/1760323113365934383
"

[uselessextras]

А что, разумно. В кавычках, конечно.

[sheradenin]

Именно так

вот МS прикрутил свой Bing AI прямо к таскбару в винде. Пробую и ....

[dionis_r]

Не уверен, что тамошние спецы вообще пытались проверять ИИ на примерах, над которыми сейчас весь Интернет потешается: Гитлер, викинги и т.д. Может, когда они, допустим, получили чёрного Трампа или того же Маска − гы-гы-гы, прикольно, сойдёт.
Ну и кругозор у них, по-видимому, узкий, они думают, что творог получают из вареников − так что нелепость многих результатов они, вероятно, даже и не смогли оценить по достоинству.

[prakapovich]

человеческая психика имеет очень много всяких ... loopholes назовем это так. Миллионы лет человек ходил в стадах по 30-50 голов. Стадо не может разделиться в самом себе и продолжить существовать в виде 2-х групп "мнений", для действия необходимо четкая слаженность, подлинное единение по отношению к действию. Именно об этом библейское: "всякое царство, разделившееся само в себе, опустеет; и всякий город или дом, разделившийся сам в себе, не устоит."

Группа может разделиться, это - да, но это будет другое: полное прекращение исходной группы как таковой. Здесь такой опции нет, невозможно сделать 2 гугла или 2 США. Поэтому гугловцы отлично понимают что делают. Неважно как абсурдно выглядит исходная посылка, цель - именно уговорить (нашептать народу , как блестяще однажды сказал Доренко) что это и есть норма. Вы как бы создаете реальность, мнимость становится новой реальностью, когда она постоянно подпитывается образами в группе, а старая реальность сидит только в голове у одиночек. Одиночки подчиняются, их образы перестают подпитываться, даже если их большинство. Так идет захват социальной сферы.

Выход - подвергать козлов-манипуляторов жесткому остракизму, сохранять свои каналы реальности и транслировать их группе.

[o_klyueva]

биологически человеки это стайные существа и в стадах они никогда не ходили.
для стайной психологии характерно изгонять из стаи несогласных, не таких «как мы».
также характерно драться с другими стаями за место под солнцем. для успехов в таких драках стаям нужны сильные вожаки которые ведут стаю за собой в бой.
поэтому стаи человеческие дрались, дерутся в наше время, и будут драться в будущем.
для описания стайного поведения человеков слово «стая» можно заменить на «племя», а слово «дерутся» на «воюют» и тогда будет понятно что да мы стайные существа.

[alexeybobkov]

"А к наружным механизмам они слабо уязвимы - ну, уберут продукт на месяц, пока шум утихнет, и выставят обратно таким же. Денег у них чуть более, чем дохерища, так что никакой угрозы такое поведение не несёт."

Ну в общем да, подход "на идеологии мы не экономим" прекрасно работает - до того момента, как вдруг перестаёт работать. СССР тому примером.

[stas]

Да, с СССР, кстати, ровно то же само вышло - к 60-м народ уже тошнило от пропаганды, к 70-м она перестала работать, к 80-м сдохла и экономика... Правда, нового человека - или нового орка - они всё-таки, видимо, вывели. Впрочем, это, похоже, и в Америке случилось.

[uselessextras]

Нет предела совершенству: https://www.infoworld.com/article/3713203/white-house-urges-developers-to-dump-c-and-c.html

[yarpenzigrin]

Похоже, что Байдену и его администрации утечки памяти и переполнения буферов действительно давят на нервы.

[serge_redfield]

Денег у них чуть более, чем дохерища, так что никакой угрозы такое поведение не несёт.

Дохерища - не дохерища, но 4% капитализации они потеряли.
Отыграют, конечно, сколько-то, но даже и очень дохерища денег можно рано или поздно проебать с таким подходом.

[1master]

Ходят слухи, что внутри все понимали, что это говно, но никто баги про дайверсити файлить не собирался, дураков нет.

[serge_redfield]

Пишут, что дайверсити туда собрали из говна и палок и примотали изолентой.
То есть баги файлили как раз наоборот и в последний момент.