(no subject)

[stas]

Перечитываю частями "Сумму технологии" Лема. Нашёл там интересное обсуждение автоматических кибернетических регуляторов - приходящее к выводу, что такой регулятор весьма опасен, особенно же - если он эффективен, т.к. заложить в него наши представления о этике крайне трудно, а без того он может начать достигать благих целей крайне чудовищными методами, более того - никто, в том числе и регулятор, даже не будет "знать", что эти методы применяются - например, он может стимулировать производство некоей пищевой добавки, поскольку оно положительно коррелирует с "уровнем счастья" в обществе - а эта добавка просто делает людей тупее и их запросы уже (это не точно лемовский аргумент, а скорее пример, сконструированный на основе его аргументов).
Однако - нельзя ли то же рассуждение, минимально модифицируя его, применить не к воображаемо-механическому "гомеостату", а к, например, Министерству, исполняющему ту же задачу? Тот факт, что элементами управляющей машины будут являться чиновники, а не компьютеры, не так уж важен - ведь каждый отдельный чиновник исполняет маленькую часть работы, последствия которой в общей картине, как правило, предсказать он не может - да и не хочет. В этом смысле личная этика чиновника вряд-ли влияет на результат.
Если же лемовское рассуждение применимо - то не следует ли прежде всего опасаться возникновения действительно эффективных методов воздействия на экономику - например, беря тот же пример, если некий чиновник обнаружит вышеуказанную положительную корреляцию, то не порекомендует ли он Министерству сделать то же, что сделал бы ужасный лемовский голем-регулятор - и не станут ли тем самым результаты не менее ужасными?
И, разумеется, вопрос - не следует ли в этом случае принять меры для того, чтобы возможность такого была если не исключена, то по крайней мере минимизирована, сколь это возможно?

Comments

[ex-ilyavinar899.livejournal.com]

Думаю, что это предотвращается тем, что у чиновника уровень интеллекта не намного отличается от уровня интеллекта граждан, чью жизнь он должен регулировать. Я недавно читал учебник макроэкономики Брэдфорда Делонга (экономист-блоггер, на которого я часто ссылаюсь в своём ЖЖ), и он упоминает то, что многие современные экономисты считают, что кейнесианские методы государственного вмешательства в экономику неэффективны, так как граждане быстро просекают, что делает правительство, и приспосабливаются к этому - например, если ради уменьшения безработицы правительство вызывает инфляцию, граждане начинают индексировать цены и зарплаты. Вопрос: что, если вмешивается существо, существенно выше человека по уровню интеллекта? Например, в американских зоопарках горилл принудительно спаривают ради поддержания их генетического разнообразия - то есть ради их же блага (сколько горилл останется в дикой природе, зависит главным образом от политической ситуации в бассейне Конго, а её мы не можем предсказать). Но гориллы не только не могут понять, что такое "генетическое разнообразие", они даже не осознают, что их намеренно спаривают. Что, если так будет поступать сверхчеловек-регулятор?

[stas]

Что, если так будет поступать сверхчеловек-регулятор?

У Лема как раз это описано. Резюмируя, существует вероятность, что результаты деятельности этого регулятора и его методы будут восприниматься человечеством как чудовищные. Тут у вас есть два варианта - либо принять чиновников как Высшие Существа и отказаться от попыток влиять на свою судьбу (горилл для этого сажают в клетки и делают другие неприятные вещи), либо попытаться избавиться от сего регулятора. Также см. у Стругацких на ту же тему.