alignment

[stas]

Вот кстати в комментариях навели на мысль. Нерешённая проблема современности - все вот эти ребята-удачники, которым когда-то повезло, и теперь у них овердохуя денег, совершенно нечего делать и очень хочется поиграть в Господа Бога. Традиционные, старомодные люди, типа Блумберга и Трампа, просто решают стать Президентом - это ещё ничего, это обычное дело, система под это заточена. А вот там Гейтс, Маск, Цукерберг, ну там Сорос конечно и всё такое - они решают, что нынешняя реальность им не годится, и нужно её переделывать целиком, невзирая на все общественные и культурные механизмы, которые только мешают. Цукерберг вообще собственную вселенную хочет, с блекджеком конечно же (а вот шлюх там запретят, уверен), ну и у остальных планетарные замашки. Реальность, конечно, никуда не денется, но засрать её, с их ресурсами, вполне реально. А нам тут ещё жить.

Вот тут много говорят о AI alignment - дескать, надо придумать, как не допустить, чтобы слишком умные роботы нас всех не извели, для нашего же блага. А я вот подумал, что мы до слишком умных роботов можем и не дотянуть - многовато желающих в очереди на глобальные трансформации всего, в последнее время, ещё до роботов. Когда-то богатые люди, которым некуда девать деньги, основывали библиотеки, музеи, университеты, всё такоэ. Теперь им этого уже не хочется, видимо. Теперь нужно быть владычицей морскою, и чтоб сама золотая рыбка была на посылках, иначе никак. Вот где бы alignment придумать.