закон Гудхарта

[stas]

Сегодня узнал про интересную закономерность - закон Гудхарта (к сожалению, фамилия его автора - Goodhart, а не Goodheart). Формулируется он примерно так:

Предположим, вы - руководитель чего-нибудь. Вы желаете достигнуть некоей цели G. Для достижения этого вы формулируете некоторый показатель G*, который статистически коррелирует с достижением цели G, но проще описывается и меряется (например, G: вы желаете, чтобы дети выходили из школы образованными людьми, готовыми к продуктивной деятельности, но определить такую цель трудно, поэтому вы создаёте тест G*, на основе которого вы будете мерить успехи образования), и даёте подчинённым установку - достигнуть в нужные сроки нужных значений G*. Подчинённые работают не покладая рук, и...
В этом случае Закон Гудхарта гласит, что P(G|G*) уменьшается со временем, и корреляция между G* и оригинальной целью G становится всё хуже.

Иллюстрация из мира программирования.