![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
Перечитываю частями "Сумму технологии" Лема. Нашёл там интересное обсуждение автоматических кибернетических регуляторов - приходящее к выводу, что такой регулятор весьма опасен, особенно же - если он эффективен, т.к. заложить в него наши представления о этике крайне трудно, а без того он может начать достигать благих целей крайне чудовищными методами, более того - никто, в том числе и регулятор, даже не будет "знать", что эти методы применяются - например, он может стимулировать производство некоей пищевой добавки, поскольку оно положительно коррелирует с "уровнем счастья" в обществе - а эта добавка просто делает людей тупее и их запросы уже (это не точно лемовский аргумент, а скорее пример, сконструированный на основе его аргументов).
Однако - нельзя ли то же рассуждение, минимально модифицируя его, применить не к воображаемо-механическому "гомеостату", а к, например, Министерству, исполняющему ту же задачу? Тот факт, что элементами управляющей машины будут являться чиновники, а не компьютеры, не так уж важен - ведь каждый отдельный чиновник исполняет маленькую часть работы, последствия которой в общей картине, как правило, предсказать он не может - да и не хочет. В этом смысле личная этика чиновника вряд-ли влияет на результат.
Если же лемовское рассуждение применимо - то не следует ли прежде всего опасаться возникновения действительно эффективных методов воздействия на экономику - например, беря тот же пример, если некий чиновник обнаружит вышеуказанную положительную корреляцию, то не порекомендует ли он Министерству сделать то же, что сделал бы ужасный лемовский голем-регулятор - и не станут ли тем самым результаты не менее ужасными?
И, разумеется, вопрос - не следует ли в этом случае принять меры для того, чтобы возможность такого была если не исключена, то по крайней мере минимизирована, сколь это возможно?
Однако - нельзя ли то же рассуждение, минимально модифицируя его, применить не к воображаемо-механическому "гомеостату", а к, например, Министерству, исполняющему ту же задачу? Тот факт, что элементами управляющей машины будут являться чиновники, а не компьютеры, не так уж важен - ведь каждый отдельный чиновник исполняет маленькую часть работы, последствия которой в общей картине, как правило, предсказать он не может - да и не хочет. В этом смысле личная этика чиновника вряд-ли влияет на результат.
Если же лемовское рассуждение применимо - то не следует ли прежде всего опасаться возникновения действительно эффективных методов воздействия на экономику - например, беря тот же пример, если некий чиновник обнаружит вышеуказанную положительную корреляцию, то не порекомендует ли он Министерству сделать то же, что сделал бы ужасный лемовский голем-регулятор - и не станут ли тем самым результаты не менее ужасными?
И, разумеется, вопрос - не следует ли в этом случае принять меры для того, чтобы возможность такого была если не исключена, то по крайней мере минимизирована, сколь это возможно?