Sunday, August 15th, 2004 07:47 pm
Перечитываю частями "Сумму технологии" Лема. Нашёл там интересное обсуждение автоматических кибернетических регуляторов - приходящее к выводу, что такой регулятор весьма опасен, особенно же - если он эффективен, т.к. заложить в него наши представления о этике крайне трудно, а без того он может начать достигать благих целей крайне чудовищными методами, более того - никто, в том числе и регулятор, даже не будет "знать", что эти методы применяются - например, он может стимулировать производство некоей пищевой добавки, поскольку оно положительно коррелирует с "уровнем счастья" в обществе - а эта добавка просто делает людей тупее и их запросы уже (это не точно лемовский аргумент, а скорее пример, сконструированный на основе его аргументов).
Однако - нельзя ли то же рассуждение, минимально модифицируя его, применить не к воображаемо-механическому "гомеостату", а к, например, Министерству, исполняющему ту же задачу? Тот факт, что элементами управляющей машины будут являться чиновники, а не компьютеры, не так уж важен - ведь каждый отдельный чиновник исполняет маленькую часть работы, последствия которой в общей картине, как правило, предсказать он не может - да и не хочет. В этом смысле личная этика чиновника вряд-ли влияет на результат.
Если же лемовское рассуждение применимо - то не следует ли прежде всего опасаться возникновения действительно эффективных методов воздействия на экономику - например, беря тот же пример, если некий чиновник обнаружит вышеуказанную положительную корреляцию, то не порекомендует ли он Министерству сделать то же, что сделал бы ужасный лемовский голем-регулятор - и не станут ли тем самым результаты не менее ужасными?
И, разумеется, вопрос - не следует ли в этом случае принять меры для того, чтобы возможность такого была если не исключена, то по крайней мере минимизирована, сколь это возможно?
Sunday, August 15th, 2004 10:39 am (UTC)
возможность такая минимизирована
- инерцией/инертностью систем
- наличием чиновника с противоположным мнением
- наличием ПМС у любовницы чиновника
- наличием в обществе криминальных интересов, негативно коррелирующих с интересами чиновника - от простого дали по голове в подъезде, до отвели в сторону и дали конверт


но не исключена
- примеров - полно - про роль чиновной личности в истории, тот же Петр Первый, ну и, скажем, Павел, Хрущь с кукурузой, Андропов с водкой, Робеспьер с гильотиной, не говоря уже о исторической роли ёшу бет-лехемского, который наверняка чего-то не того хотел, что получилось
Sunday, August 15th, 2004 10:47 am (UTC)
понятно
слава богу - так не бывает
Sunday, August 15th, 2004 12:43 pm (UTC)
Стас, а почему, собсно, ты считаешь, что этого до сих пор не происходит? :)
Sunday, August 15th, 2004 02:03 pm (UTC)
Если брать экономику - вероятно, ею можно было бы рулить куда эффективнее. Но, с другой стороны, а есть ли основания считать, что министерства хотят, чтобы она была эффективной? :) Есть ли основания считать, что министерство образования обеспокоено качеством образования, министерство здравоохранения - качеством здравоохранения и т.п.? :)
Sunday, August 15th, 2004 03:02 pm (UTC)
Думаю, что это предотвращается тем, что у чиновника уровень интеллекта не намного отличается от уровня интеллекта граждан, чью жизнь он должен регулировать. Я недавно читал учебник макроэкономики Брэдфорда Делонга (экономист-блоггер, на которого я часто ссылаюсь в своём ЖЖ), и он упоминает то, что многие современные экономисты считают, что кейнесианские методы государственного вмешательства в экономику неэффективны, так как граждане быстро просекают, что делает правительство, и приспосабливаются к этому - например, если ради уменьшения безработицы правительство вызывает инфляцию, граждане начинают индексировать цены и зарплаты. Вопрос: что, если вмешивается существо, существенно выше человека по уровню интеллекта? Например, в американских зоопарках горилл принудительно спаривают ради поддержания их генетического разнообразия - то есть ради их же блага (сколько горилл останется в дикой природе, зависит главным образом от политической ситуации в бассейне Конго, а её мы не можем предсказать). Но гориллы не только не могут понять, что такое "генетическое разнообразие", они даже не осознают, что их намеренно спаривают. Что, если так будет поступать сверхчеловек-регулятор?
Monday, August 16th, 2004 08:21 am (UTC)
С уровнем безработицы, как мы знаем, прекрасно работает рецепт Оры Намир.
Tuesday, August 17th, 2004 02:05 am (UTC)
Занятно, Стас. Реальная ситуация, в которой реальные люди реальным тобой манипулируют ради достижения каких-то не близких тебе результатов, для науки интереса не представляет. А вот гипотетическая ситуация, при которой гипотетический сверхразум манипулирует гипотетическими людьми - таки да интересна. Занятная вещь эта твоя наука :)