alignment

[stas]

Вот кстати в комментариях навели на мысль. Нерешённая проблема современности - все вот эти ребята-удачники, которым когда-то повезло, и теперь у них овердохуя денег, совершенно нечего делать и очень хочется поиграть в Господа Бога. Традиционные, старомодные люди, типа Блумберга и Трампа, просто решают стать Президентом - это ещё ничего, это обычное дело, система под это заточена. А вот там Гейтс, Маск, Цукерберг, ну там Сорос конечно и всё такое - они решают, что нынешняя реальность им не годится, и нужно её переделывать целиком, невзирая на все общественные и культурные механизмы, которые только мешают. Цукерберг вообще собственную вселенную хочет, с блекджеком конечно же (а вот шлюх там запретят, уверен), ну и у остальных планетарные замашки. Реальность, конечно, никуда не денется, но засрать её, с их ресурсами, вполне реально. А нам тут ещё жить.

Вот тут много говорят о AI alignment - дескать, надо придумать, как не допустить, чтобы слишком умные роботы нас всех не извели, для нашего же блага. А я вот подумал, что мы до слишком умных роботов можем и не дотянуть - многовато желающих в очереди на глобальные трансформации всего, в последнее время, ещё до роботов. Когда-то богатые люди, которым некуда девать деньги, основывали библиотеки, музеи, университеты, всё такоэ. Теперь им этого уже не хочется, видимо. Теперь нужно быть владычицей морскою, и чтоб сама золотая рыбка была на посылках, иначе никак. Вот где бы alignment придумать.

Comments

[signamax]

Ничего нового в этом нет.
Мессианство и троцкизм

[alexanderr]

да, действительно есть такое мнение, что на смену "бюрократам" типа Сталина или Мао, которым нужна была только власть идут "эксперты", которые исходно вроде бы не стремились к власти, но заработав 12 цифр точно оказались невероятно влиятельными. и способными, как они думают, на действительно масштабные проекты. если все будут решать "эксперты" типа Гейтса или Маска (а реально их конечно очень много, эти только самая верхушка айсберга, куда не попадают тысячи рядовых миллиардеров, но которые тоже хотят все решать, хотя бы в своей области), то это еще вопрос, будет ли нам лучше или хуже, чем, скажем, при Мао. заранее не очевидно

[o_klyueva]

это так потому что власть это самое сильное искушение изо всех человеческих искушений. и за большие деньги эту власть можно попробовать купить.

[juan_gandhi]

Вот отличная тема. да. И правда, жили бы себе. Нет. Порулить. Для того и рвали соперников на кусочки. Изменить вселенную.

Ну конечно, желающих изменить вселенную немало. Например, соцсети ж организуются людьми, у которых проблема с социализацией в реале. Не, в этом есть и элементы хорошего.

А вот это предложение вообще хорошее - бесплатное образование... нет, тоже не выйдет. Будут изучать CRT, а из технических наук - Design Patterns и Agile.

Тьфу. Как человечество ни...

[uselessextras]

SAFe и сертификация с ритуалами чтоб обязательно

[stas]

Вот. А думают, что роботов научить могут. Себя попробуйте научить хоть.

[zaj_gizund]

Научат, научат. Все машины с добавкой в дизель "AdBlue(орео)" замыкают мотор, если добавка закончилась. Чтоб двигатель не портился. Ну, дает предупреждение за 1000 км до окончания, но если проигнорировал - пеняй на себя. Поехал через пустыню в жару или через снежный лес, вышел отлить, выключив двигатель, вернулся - двигатель не включится, размыкание только в фирменном гараже.

[valerisha]

Забавно. Года три назад я у вас в комментах именно такую мысль высказывал. Что частные лица сосредоточили в своих руках богатства, сопоставимые с бюджетами государств, и это представляет нехилую опасность. Ещё тамплиеров в пример приводил.
Вы со мной тогда спорили с позиций либертарианства.

Рад, что теперь мы синхронизировали взгляды.

[dionis_r]

Тут проблема не в том, что они очень богатые, на уровне бюджетов иных государств (такое бывало и раньше), а в том, что они разбогатели при относительно малых капиталовложениях (на «нематериальных» вещах − софте) и, в основном, сравнительно молодыми.

(Упомянутый Сорос выбивается из этого ряда, но он и начинал свою общественную деятельность «по-человечески» − с активной благотворительности в культуру и образование (этого не отнимешь); но вкладывая в бедные страны он имел на умеренное вложение много почёта, внимания, лести, что, по-видимому, и вскружило ему голову)

Люди, разбогатевшие быстро и сравнительно легко, часто (не всегда) становятся проблемой окружающим и себе. Где-то было исследование, как люди распорядились крупными выигрышами в лотерею. Оказалось лишь 5% таких счастливчиков распорядились благоразумно, остальные − быстро промотали разными способами.

[alex_shishkin]

Я думаю, дело и не в этом тоже. Не может быть, чтобы среди прошлых сверхбогачей не было таких же желающих порулить миром, как цукербрины. Были, к гадалке не ходи. Вот чего раньше не было - так это а) такого уровня вмешательства государства в жизнь граждан (и как следствие, возможности влиять на жизнь граждан, спонсируя "правильное" госрегулирование); и б) такого уровня монополизации средств общения между гражданами.

Какой-нибудь Вандербильд мог хоть усраться, но предел его возможностей был устанавливать свои правила в моногородах при его предприятиях. А теперь - через регулирование мнений в соцсетях и спонсирование правильного законодательства можно весь глобус превратить в собственный моногород...

[stas]

То же с золотой лихорадкой - из нашедших золото не перенёс этого почти никто, а поднялись лавочники типа Нордстрома.
А вот с интернетовской золотой лихорадкой уже по-другому. По крайней мере пока.

[stas]

Ну я не помню, что года три назад было. Либертарианство этому никак не мешает - можно быть против Сухого Закона и осознавать вред алкоголизма, одновременно.

[prakapovich]

// Что частные лица сосредоточили в своих руках богатства, сопоставимые с бюджетами государств, и это представляет нехилую опасность

Это не представляет никакой опасности, учитывая что богатство этих людей совершенно неотделимо от ... гос. дотаций. Т.е они опасны ровно в той степени, в какой опасно государство. Произошло наверное то, что что можно назвать единственно сбывшимся прогнозом Карла Маркса: "слияние крупного капитала и государства".

Вот намедни, Маск начал качать права якобы о выделенных на Старлинк 80 млн Украине. Оказывается, что куда ни ткни в этом в этот Старлинк - везде уши кэша, кот. получал Маск от правительства на этот самый Старлинк. Причем похоже нехило переплачивая за него. А потом и вовсе оказалось, что:
"This wouldn't be the first time Elon Musk's companies received significant funding from the U.S. government. The FCC has previously awarded SpaceX with $886 million in funding in order to improve rural broadband with Starlink. And Tesla has received billions in government funding as well."

Т.е весь Старлинк щедро посыпан деньгами налогоплательщиков.

P.S.
mashable . com/article/elon-musk-spacex-ukraine-starlink-government-funding

[pupsikk]

"частные лица сосредоточили в своих руках богатства, сопоставимые с бюджетами государств, и это представляет нехилую опасность"

Это очевидная глупость.
Ведь ГОДОВОЙ правительственный бюджет США превышает суммарную капитализацию всех ФААНГов вместе взятых.
Один годовой бюджет.
Не считая разнообразного государственного имущества.
И надо еще учитывать, что государство держит в своих руках все ветви власти - законодательную, исполнительную и судебную. Плюс армия. Плюс мощнейшие спецслужбы. Плюс налоговое управление.
Кратко говоря, если правительство захочет разгромить всех этих цукербринов, я думаю, максимум за недельку справятся.
Поэтому как-то нелепо приписывать коммерсантам какую-то эксклюзивную мощь - они вроде клопа Говоруна, пищат громко, но если возникнет необходимость, их просто раздавят.

[yankel]

Проблема не в сверхбогатстве этих людей. Если бы с ними не работал государственный аппарат, их деньги мало бы на что влияли.

[e2pii1]

> частные лица сосредоточили в своих руках богатства, сопоставимые с бюджетами государств, и это представляет нехилую опасность.

Никакой опасности большей чем опасность от государств. Т.к. частнoе лицo ничем не хуже гос.чинуши или политикана.

> Ну вот Трамп был "правительство" и где он теперь?

Безос (а он один из 1х по богатствy) ненавидел Трампa и с ним изо всех сил воевал ещё с 2015-2016. И ничего, Трамп стал правительством аж на 4 года.

Когда-то богатые люди, которым некуда девать деньги

[idan11]

Всё это можно забыть, забИть и сдать в утиль.
Когда-то давно ОЧЕНЬ много ПРОСТЫХ людей были БОЛЕЕ независимы чем сейчас.
Плюс менталитет ТЕХ богатых людей был совсем другим чем у ЭТИХ.
Соответственно и менталитет ПРОСТЫХ людей ТОЖЕ другой (более зависимый от...).
Отсюда и надо отплясывать рассматривая реалии современности.

[souldoc]

=А вот там Гейтс, Маск, Цукерберг, ну там Сорос конечно и всё такое=

Подозреваю, что у этих богатеев есть свои зависимости. От кого-то, от кого зависят их богатства. Например, Маск. В его недавнем твитере призывающем Украину отдать территории России, есть мнение, "торчат уши" ФСБ. Он же, вероятно, сильно зависит от верховных китайских коммунистов, т.к. там, в Китае, если не основной, то очень-очень большой рынок сбыта его электромобилей. Поэтому, скорее всего крутятся эти "мессии" вокруг оси, на которую насажены кем-то другим и спрыгнуть не могут.

А вот кто действительно хочет золтую рыбку себе на побегушки, так это Путин. У него и 12 цифр и президентство, т.е. царство, которое он желает сделать вселенским.

[stas]

Да чего там усложнять, ФСБ... Всё проще. Илончик покурил травы, и понял, что он такой умный, что скоро на Марс полетит - неужели он такую мелочь не сможет разрешить? Почитал за час три статейки, всё понял и проблему решил. Без всякого ФСБ.

Путин это следующий уровень. Но таких история уже видела. Впрочем, он в другой категории - он свои богатства не заработал, а по старинке - отжал.

[solomon2]

Eat ze bugs! You will have nothing and be happy!

[mtyukanov]

Да, это сейчас в воздухе такое. Все об этом говорят. С разных сторон.

Только что вышла песня сатирической немецкой группы Кноркатор -- Миллиардеры

Вы -- величайшие, вы -- сильнейшие,
Вы утверждаете, куда ведут пути,
Вы устанавливаете правила, вы можете их нарушать,
Вопросов нет, планета -- ваша.

Но все же вы не свободны и не счастливы
Есть один монстр, что держит вас в плену
Он решает, что вам думать, делать и желать
Известен под именем "деньги".

В умеренных дозах они безопасны
Могут даже быть решением многих проблем
Но слишком много сразу -- хуже чумы
Давайте уж, мы хотим вас освободить

Припев:
Миру не нужны миллиардеры
Представьте, как прекрасно было бы без вас
Эмпатия и разум вместо жадности и лжи
Свежий воздух, зеленые леса, чистые моря

Вы умны, креативны, думаете о будущем, у вас есть энергия
Можете достичь многого важного
Но к сожалению, все крутится вокруг прибыли и власти
И потому вы идете через трупы

Шантажируете, коррумпируете, предаете, манипулируете
Готовите войны и пожираете целые страны
Становитесь маньяками контроля и параноиками
Или ярко выраженными психопатами

Ваша власть -- наркотик, она держит вас на крючке
Оружие в совершенно неправильных руках
Мы, к сожалению, созависимы, но видим проблему
И готовы покончить с безумием

Припев 2:
Миру не нужны миллиардеры
Представьте, как прекрасно было бы без вас
Эмпатия и разум вместо жадности и лжи
Свежий воздух, зеленые леса, чистые моря

Да, миру не нужны миллиардеры
И мы сделаем это без оружия,
Нет, вас не будут убивать и не будут сажать,
Напротив -- вы станете миллионерами!

(бридж)
Вы говорите про свободу и все согласны
Без свободы было бы реально плохо
Но чем больше ее у вас, тем меньше остается
Для всех остальных -- и в этом проблема

Припев 3

Миру не нужны миллиардеры
Представьте, как прекрасно было бы без вас!
Нет, мы не хотим вас убивать или сажать
Наоборот, вы станете миллионерами!

Да, миру не нужны миллиардеры
На этом мы столкнулись с вами
И мы говорим это четко и громко
Такие мысли все больше распространяются



Это, конечно, гротеск, но симптоматично.

[zaj_gizund]

Умные объединяются плохо, а дураки - легче.
Это еще в Древней Греции было.
Находился в элите такой умный, который речами и/или подкупом объединял чернь и узурпировал власть.
Таким тогда придумали название: Тиран.

[stas]

Большинство современных демократий, думаю, греки бы назвали тираниями. Может, кроме Швейцарии. Впрочем, тогда это ещё не было таким осуждающим словом, как стало потом.

[o_klyueva]

да, это так. потому что те кого вы здесь назвали «дураками» это люди живущие в первую очередь не умом а инстинктами.
согласно науке биологии человеки это стайные существа, как и ближайшие наши биологические родственники обезьянки. вот такие люди и сбиваются в стаи управляемые вожаком.
ученым социологам видимо неудобно использовать такие слова как стая, вожак по отношению к людям-человекам и они вместо этого используют термины «толпа» и «лидер» . ну и науку изучающую такие стайные явления называют «управление толпой»

[o_klyueva]

библиотеки, музеи, университеты, публичные больницы, итд, строили обеспеченные люди живущие по законам христианства.
в нашем маленьком древнем городке еще во времена царя Гороха такие люди построили больничку для инфицированных больных - зарбарак. и эта больничка успешно обслуживала городок до начала 21 века. в те же года была построена городская баня, в центре города на берегу речки. и эта баня работает до сих пор.