(no subject)

[stas]

Перечитываю частями "Сумму технологии" Лема. Нашёл там интересное обсуждение автоматических кибернетических регуляторов - приходящее к выводу, что такой регулятор весьма опасен, особенно же - если он эффективен, т.к. заложить в него наши представления о этике крайне трудно, а без того он может начать достигать благих целей крайне чудовищными методами, более того - никто, в том числе и регулятор, даже не будет "знать", что эти методы применяются - например, он может стимулировать производство некоей пищевой добавки, поскольку оно положительно коррелирует с "уровнем счастья" в обществе - а эта добавка просто делает людей тупее и их запросы уже (это не точно лемовский аргумент, а скорее пример, сконструированный на основе его аргументов).
Однако - нельзя ли то же рассуждение, минимально модифицируя его, применить не к воображаемо-механическому "гомеостату", а к, например, Министерству, исполняющему ту же задачу? Тот факт, что элементами управляющей машины будут являться чиновники, а не компьютеры, не так уж важен - ведь каждый отдельный чиновник исполняет маленькую часть работы, последствия которой в общей картине, как правило, предсказать он не может - да и не хочет. В этом смысле личная этика чиновника вряд-ли влияет на результат.
Если же лемовское рассуждение применимо - то не следует ли прежде всего опасаться возникновения действительно эффективных методов воздействия на экономику - например, беря тот же пример, если некий чиновник обнаружит вышеуказанную положительную корреляцию, то не порекомендует ли он Министерству сделать то же, что сделал бы ужасный лемовский голем-регулятор - и не станут ли тем самым результаты не менее ужасными?
И, разумеется, вопрос - не следует ли в этом случае принять меры для того, чтобы возможность такого была если не исключена, то по крайней мере минимизирована, сколь это возможно?

Comments

[signamax.livejournal.com]

возможность такая минимизирована
- инерцией/инертностью систем
- наличием чиновника с противоположным мнением
- наличием ПМС у любовницы чиновника
- наличием в обществе криминальных интересов, негативно коррелирующих с интересами чиновника - от простого дали по голове в подъезде, до отвели в сторону и дали конверт


но не исключена
- примеров - полно - про роль чиновной личности в истории, тот же Петр Первый, ну и, скажем, Павел, Хрущь с кукурузой, Андропов с водкой, Робеспьер с гильотиной, не говоря уже о исторической роли ёшу бет-лехемского, который наверняка чего-то не того хотел, что получилось

[stas]

Ну это всё понятно, тут (т.е. в размышлении) речь идёт о сферической лошади в вакууме - т.е. некоем идеально работающем Министерстве, пекущемся исключительно о некоем идеальном Показателе - скажем, уровне безработицы или там проценте роста ВНП - и делающем это эффективно. Понятно, что реально всё сложнее - это лишь одна из проекций.

[signamax.livejournal.com]

понятно
слава богу - так не бывает

[alexcohn.livejournal.com]

С уровнем безработицы, как мы знаем, прекрасно работает рецепт Оры Намир.

[kontei.livejournal.com]

Стас, а почему, собсно, ты считаешь, что этого до сих пор не происходит? :)

[stas]

Нынешние методы регуляции экономики довольно неэффективны и затратны. Если, конечно, у Министерства нет своей, неизвестной мне, экономической науки - что маловероятно.
Интересно тут то, что обычно речь идёт о том, что государственное регулирование неэффективно и плохо достигает целей, которых добивается. В данном же случае речь идёт о том, что будь оно эффективно, дело обстояло бы гораздо хуже.

[kontei.livejournal.com]

Если брать экономику - вероятно, ею можно было бы рулить куда эффективнее. Но, с другой стороны, а есть ли основания считать, что министерства хотят, чтобы она была эффективной? :) Есть ли основания считать, что министерство образования обеспокоено качеством образования, министерство здравоохранения - качеством здравоохранения и т.п.? :)

[stas]

См. выше. Я рассматриваю ситуацию, когда они таки да озабочены. Если они не озабочены, то это ситуация банального вранья и разводки, для науки интереса не представляющая.

[kontei.livejournal.com]

Занятно, Стас. Реальная ситуация, в которой реальные люди реальным тобой манипулируют ради достижения каких-то не близких тебе результатов, для науки интереса не представляет. А вот гипотетическая ситуация, при которой гипотетический сверхразум манипулирует гипотетическими людьми - таки да интересна. Занятная вещь эта твоя наука :)

[stas]

Алекс, ты полагаешь, что тот факт, что математика, изучающего теорию вероятности, не интересуют весьма нужные для народного хозяйства дифференциальные уравнения - делает ТВ никуда не годной наукой? И аргумент "но я не дам Некту яблоко, хоть он дерись!" - является опровержением арифметики?

Мои взгляды на реальных чиновников известны и мной публиковались неоднократно. Однако в данном случае - повторяю медленно: в д а н н о м с л у ч а е меня интересует другая ситуация, описанная у Лема - кстати, футуролога. Имею я право, или должен, как попугай, твердить день и ночь одно и то бе, чтобы ты меня не обвинил в отрыве от народного хозяйства? ;)

[ex-ilyavinar899.livejournal.com]

Думаю, что это предотвращается тем, что у чиновника уровень интеллекта не намного отличается от уровня интеллекта граждан, чью жизнь он должен регулировать. Я недавно читал учебник макроэкономики Брэдфорда Делонга (экономист-блоггер, на которого я часто ссылаюсь в своём ЖЖ), и он упоминает то, что многие современные экономисты считают, что кейнесианские методы государственного вмешательства в экономику неэффективны, так как граждане быстро просекают, что делает правительство, и приспосабливаются к этому - например, если ради уменьшения безработицы правительство вызывает инфляцию, граждане начинают индексировать цены и зарплаты. Вопрос: что, если вмешивается существо, существенно выше человека по уровню интеллекта? Например, в американских зоопарках горилл принудительно спаривают ради поддержания их генетического разнообразия - то есть ради их же блага (сколько горилл останется в дикой природе, зависит главным образом от политической ситуации в бассейне Конго, а её мы не можем предсказать). Но гориллы не только не могут понять, что такое "генетическое разнообразие", они даже не осознают, что их намеренно спаривают. Что, если так будет поступать сверхчеловек-регулятор?

[stas]

Что, если так будет поступать сверхчеловек-регулятор?

У Лема как раз это описано. Резюмируя, существует вероятность, что результаты деятельности этого регулятора и его методы будут восприниматься человечеством как чудовищные. Тут у вас есть два варианта - либо принять чиновников как Высшие Существа и отказаться от попыток влиять на свою судьбу (горилл для этого сажают в клетки и делают другие неприятные вещи), либо попытаться избавиться от сего регулятора. Также см. у Стругацких на ту же тему.