State, our lord and savior

[stas]

Читая всякие обсуждения насчёт того, как "правительство должно взять под контроль AI, пока не поздно", я сразу замечаю, насколько прочно всё-таки идея о всесильности и божественной природе государства живёт в подсознании людей. Дескать, конечно, мы все знаем про бюрократию и т.п., но если вот соорудить Настоящий Социализм (или, у более последовательных, Настоящий Фашизм) - то они смогут навести порядок. Где-то там, в Секретных Лабораториях, хранятся секреты этого Настоящего, которое Может, его просто пока не вытаскивали, потому что всё лучшее, как известно, от народа прячут - но теперь-то пришёл момент, когда можно Достать из Широких Штанин, наконец-то есть достойная цель! Давайте же, возьмите нас, жестокие, но эффективные управленцы, придите и володейте нами, спасите нас от AI!

Ребятки, государство даже с несчастной марихуаной уже полевека воюет, и успехи исключительно отрицательные. И тут вы, с одной стороны, предполагаете, что есть технология, которая способна, буквально, дать человеку сверхчеловеческие способности - а с другой, считаете, что эти вот люди, неспособные справиться с вонючим кустиком, смогут удержать вот этого джинна в бутылке? Только потому, что вы сами согласны ради этого стать раком? Нет, вас-то они раком поставят с превеликим удовольствием. Но вот только с джинном это вам ни хрена не поможет. Скорее, они самого джинна как раз и запрягут вас раком ставить, для эффективности. Своим-то можно.

И те "рационалисты", которые этого не понимают, кстати, должны быстренько сдать свою карточку рационалиста в ближайший пункт приёма вторсырья. Ну и восприниматься всеми остальными так, как если бы они уже это сделали. Красный нос и длинные башмаки опциональны, и так всё ясно.

Comments

[volchara]

--- но если вот соорудить Настоящий Социализм (или, у более последовательных, Настоящий Фашизм)

нацизм, фашизм, социализм - чем отличается то?

[dionis_r]

Нацизм и фашизм − частные случаи, разновидности социализма.

[idan11]

Названием жеж.

[stas]

Ну как, у нацизма там всё на генетику задрочено, типа мастерская раса, всё такоэ.

Фашизм от социализма - при социализме Партия контролирует вообще всё, до мельчайших деталей. Фашизм более гибок - он отдаёт часть неважных деталей на более низкий уровень, и типа вопросов, кому сколько платить и кто конкретно будет директором какого склада сапогов. Всё подчинено интересам нации, но в отдельных мелких деталях возможны какие-то небольшие степени свободы. Плюс номинальная частная собственность, что делает концепцию легче перевариваемой для привыкших к этому обществ. Ну и в центре "нация" (как определить - по обстоятельствам), а при социализме в центре обычно - Партия (которая может быть только одна, потому что зачем ей нужны другие? Это будет только разбазаривание средств).

На нынешнем этапе обе концепции немного устарели и заменены гибридной системой, под текущим названием (они постоянно меняются, конечно) stakeholder capitalism. Всё подчинено интересам группы stakeholders, они же Лучшие Люди, вооружённые последними достижениями Ноуки(ТМ)(R), которые выступают от имени всего человечества (как видим, заимствование из обоих моделей), номинальная частная собственность сохраняется, но только в пределах, дозволенных холдерами стейка. В тех же пределах дозволены и все свободы. Если это не вредит холдерам - то гуляй разлюли-малина. Если вредит - добро пожаловать в наш гостеприимный гулаг. Приметно так.

[wizagem]

О, да!
Я усматриваю два возможных объяснения этому явлению
1. Патернализм, люди хотят "отца" который их защитит от проблем.
2. Непонимание трудностей управления. Людям кажется что если у кого-то есть "власть", то он может чего угодно добиться от подчиненных. Щаз, ага..

[juan_gandhi]

Точно. Это постоянная фигня. Еще любопытно, те же люди, что боролись за легализацию того и того, и постоянно подозревали государство во всяких злодействах, вдруг таки требуют, чтобы государство о них заботилось, потому что это его работа.

[yury]

Да, ничто никого ничему не учит.
Это были неправильные пчёлы. В этот раз будут правильные, и всё удастся.

[stas]

Вот эта вера, в то, что после всего вот этого, где-то, в тайном хранилище, есть правильные пчёлы, которых именно до этого случая хранили, а теперь вот надо вынуть... это от просмотра эпической фантастики, что ли, где вечно какой-то макгаффин всё решает?

[dionis_r]

Видимо, эти люди воспринимают AI как нечто сродни оружию массового поражения, например, ЯО. Поскольку монополия на ОМП сейчас у государства (у нескольких гос-в) и они худо-бедно десятки лет справляются с его нераспространением (с проколами вроде С.Кореи или саддамовского Ирака, но всё же), то у некоторых (подозреваю − гуманитариев) возникает иллюзия, что и с AI так же можно.
Только если бы это и было можно, то момент уже давно прошёл. Лет 15-20 назад, если не раньше.

[stas]

Справляются довольно хреново, учитывая Китай, Северную Корею, Индию и Пакистан. И Израиль. Да и Иран, если уж на то пошло. Просто его довольно дорого делать, а пользы от него, если не хочешь воевать с другим обладателем ЯО, в общем-то особо и нет. Т.е. какая-нибудь Южная Корея или Япония, если бы захотели, вполне могли бы заиметь ЯО довольно быстро, но зачем? Никаких целей это не достигает, профита ноль, проблем полна жопа.

[prakapovich]

https://prakapovich.dreamwidth.org/71977.html

[stas]

В частично правы в том смысле, что да, никаких Тайных Технологий и Секретных Запасов нет (собственно, это и есть мой пойнт, как раз). Однако LLM - технология не тайная, а вполне явная, не менее, чем, скажем, реактивный двигатель или ядерный реактор. И эта технология будет развиваться, потому что она полезна (ядерные реакторы тоже пытались подавить, но китайцам, например, похуй на это). Разовьётся ли она до того, чтобы произвести Сверхразум? Хуй его знает, я в это не очень верю, но я не какой-то там пророк, могу и ошибиться. Поэтому в этом посте я предполагаю - допустим да, алармисты правы, и можно сделать из LLM Сверхразум.

[1master]

С ядерным оружием тоже все проще, чем кажется:
The Nth Country Experiment was an experiment conducted by Lawrence Livermore National Laboratory starting in May 1964 which sought to assess the risk of nuclear proliferation. The experiment consisted in paying three recent young physicists who had just received their PhDs, though had no prior weapons experience, to develop a working nuclear weapon design using only unclassified information, and with basic computational and technical support. ...
The experiment ended on April 10, 1967, after only three man-years of work over two and a half calendar years. According to a heavily redacted declassified version of the summary, it was apparently judged by lab weapons experts that the team had come up with a credible design for the technically more challenging implosion style nuclear weapon.

[valerisha]

Ваш пример с марихуаной не совсем корректен, потому что вы говорите о борьбе с преступностью. Там эффект не очень силён, потому что государство не всесильно.

Но в случае с AI мы говорим о регулировании законопослушных корпораций.
Да, государство неэффективно, но какой-то баланс должен быть. Должно быть что-то, ограничивающее частный сектор на уровне страны. Посмотрите, например, на экологию. Что бы с ней стало к настоящему времени, если бы государство не начало наводить порядок? Уже в 60х на улицах автоматы по продаже кислорода ставили. Нормы выбросов автомобилей, национальные парки, очистка лесов, рек и озёр, запрет убойных пестицидов - этих решений без государства бы не было.

Ну или нужно переходить на настоящее самоуправление, я вам когда-то это решение предлагал, но вы не поддержали. Выделять государству 10% подоходных налогов, как в Торе написано, а остальное саморегулировать на уровне communities.

[stas]

потому что вы говорите о борьбе с преступностью

Преступностью марихуана стала исключительно по воле государства. Но дело не в этом, а в том, что даже при этом, и притом, что курение марихуаны не даёт потребителю абсолютно никаких конкурентных преимуществ, государство неспособно справиться даже с торчками. Откуда берется идея, что оно будет способно справиться с хорошо мотивированными 5 миллиардами человек, перед которыми маячит перспектива не обдолбаться на вечерок, а стать владельцами Сверхразума? Вы представляете, на сколько порядков тут разница в мотивации?

Но в случае с AI мы говорим о регулировании законопослушных корпораций.

Идея, что американское государство может регулировать законопослушные корпорации Китая и Индии, мне представляется смехотворной. Но, собственно, и с законопослушными корпорациями США ещё большой вопрос, кто кого тут регулирует. Что хорошо для Дженерал Моторс, как известно...

но какой-то баланс должен быть

Что такое "какой-то баланс"? Сверхразум или есть, или его нет. Если мы работаем в концепции, в которой он а) возможен, и б) близок - то "какой-то баланс" тут не поможет - нельзя не допустить создания Сверхразума на 76.5%. Или 100%, или 0%.

[e2pii1]

Мы видели как государство регулировалo законопослушныe корпорации запрещая опасные исследования gain of function вирусов.

[prakapovich]

Да, государство неэффективно, но... Посмотрите, например, на экологию. Что бы с ней стало к настоящему времени, если бы государство не начало наводить порядок?

Вы попались на крючок дешевой пропаганды.... причем очень неумных людей. Государство - это всегда основная причина загрязнения среды, недаром самые грязные страны - это самые зарегулированные государством: СССР, Китай, очень грязными были даже "витрины социализма" ГДР и Чехия.
Если нужны разборы ситуаций по этим странам, то есть неплохая книга, советую: "The Problem with Socialism". Там есть глава, где детально описано почему государство - это всегда плохо для экологии:
https://www.amazon.com/Problem-Socialism-Thomas-DiLorenzo/dp/1621575896

Даже удивительно как люди могут прожить 30-40 лет на свете и не знать таких простых вещей. Поищите на сайте Мизеса, там полно статей на эту тему. Первое из гугла:
https://mises.org/power-market/dont-trust-government-environment
https://mises.org/wire/markets-and-private-property-not-government-protect-environment

Государство никогда не наводило порядок с экологией. Оно само загрязняет ее (и судить его невозможно, особенно актуально для совка) а на западе оно еще и покрывает основных загрязнителей - большие корпорации.

[michaelkoloboff]

В принципе логика в этом есть: если государство может сделать торговлю травой убыточной, то дайте этим профессионалам руководить ИИ и прогресса там не будет. Мне нравится история про выделение безлицензионной частоты для микроволновок (чтобы они срали помехи туда). Сопротивлялись 39 лет, но таки дали слабину - на этой помойке мы все сейчас живем (блютус, вайфай).
Недавно была годовщина фото "Погрузка 5–мегабайтного жесткого диска компании IBM. США. 1965 г." Жесткими дисками государство не заведовало, и мы все знаем какого они размера сейчас. Это безобразие, надо прекратить.

[stas]

Вот это, кстати, может сработать. Открыть Министерство Искусственного Интеллекта, посадить туда министром Ньюсома, или скажем, Камалу - и никакого интеллекта не будет. Странно, что как раз это рабочее решение никто не предлагает.

[e2pii1]

Выдающийся прикладной математик и организатор науки Мстислав Келдыш, Президент Академии наук СССР 1961—1975, говорил (я это слышал от старого профессора работавшего в его институте): "сколько компьютеров нужно в СССР ? Где-то 7, ну может 8".

А Келдыш был действительно выдающийся учёный и научный менеджер, не тупой бюрократ типа вышеупомянутых Ньюсома или Камалы. Таковы лимиты гос.управления.

Но помимо СССР было и США с IBM и с гаражами в которых Эпплы создавали. Так и тут с ИИ: найдутся где-то ещё в мире места где эту область не зарегулируют - и джинн вылезет из бутылки.

[zaj_gizund]

===Скорее, они самого джинна как раз и запрягут вас раком ставить, для эффективности
Так и будет

[dmitryvlasov]

Интересно, что люди, которые это предлагают, и которые якобы на десять голов лучше понимают проблему, чем эти старые пердуны в Конгрессе, даже не пытаются дать хоть какие-то минимальные предложения что и как, собственно, регулировать, но надеются, что старые пердуны это сделают за них. Впрочем вру, предложения есть - а давайте просто запретим. Я так понимаю всем, кроме тех, кто имеет достаточные ресурсы, чтобы это делать для себя. Биг Тек, китайцы, Маск. Что-то не видно, чтобы Маск прекратил работать над автопилотом у Теслы, хотя согласно ему же - мы в шаге от Maximum Overdrive.

[prakapovich]

// естественно сначала скорее те где отдачa больше.

это неестественно.
Это противоречит всему, что мы знаем о предпринимательстве. И теория и практика говорит, что как только предприниматель видит инновацию -> это ему сулит конкурентное преимущество -> имеет смысл реализовать весь инновационной "запас" немедленно.

Никто не начинает с инноваций "где отдачa больше", откладывая на N-нное время те "где меньше". Это не тот уровень аргументации, который нужен. Совсем неубедительно.

[prakapovich]

И?
где защита вашего тезиса?
помогли регуляции гос-ва? если да - насколько?
кстати напомню, что США стремительно деградируют как промышленная держава как раз с середины 20-века. Все вредные производства выводятся в Китай, прочую Азии, Кореи, Индии, Африка. Вы уверены что не это, а именно регуляции помогли?

Если вы будете доказывать что государство и регуляции помогли - я потребую конкретных цифр - НАСКОЛЬКО. Затем я потребую цифр - НАСКОЛЬКО уменьшилось промышленное давление на озера, сколько металлургических производства закрыто (слыхали такое выражение "РЖАВЫЙ ПОЯС"? как вы думаете что оно обозначает?), сколько закрыто химических производств. И т.д.

Без всего этого ваш длинный пост - просто бессмысленный набор предложений.

[prakapovich]

И?
где защита вашего тезиса?
помогли регуляции гос-ва? если да - насколько?
кстати напомню, что США стремительно деградируют как промышленная держава как раз с середины 20-века. Все вредные производства выводятся в Китай, прочую Азии, Кореи, Индии, Африка. Вы уверены что не это, а именно регуляции помогли?

Если вы будете доказывать что государство и регуляции помогли - я потребую конкретных цифр - НАСКОЛЬКО. Затем я потребую цифр - НАСКОЛЬКО уменьшилось промышленное давление на озера, сколько металлургических производства закрыто (слыхали такое выражение "РЖАВЫЙ ПОЯС"? как вы думаете что оно обозначает?), сколько закрыто химических производств. И т.д.

Без всего этого ваш длинный пост - просто бессмысленный набор предложений.