![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
Читая всякие обсуждения насчёт того, как "правительство должно взять под контроль AI, пока не поздно", я сразу замечаю, насколько прочно всё-таки идея о всесильности и божественной природе государства живёт в подсознании людей. Дескать, конечно, мы все знаем про бюрократию и т.п., но если вот соорудить Настоящий Социализм (или, у более последовательных, Настоящий Фашизм) - то они смогут навести порядок. Где-то там, в Секретных Лабораториях, хранятся секреты этого Настоящего, которое Может, его просто пока не вытаскивали, потому что всё лучшее, как известно, от народа прячут - но теперь-то пришёл момент, когда можно Достать из Широких Штанин, наконец-то есть достойная цель! Давайте же, возьмите нас, жестокие, но эффективные управленцы, придите и володейте нами, спасите нас от AI!
Ребятки, государство даже с несчастной марихуаной уже полевека воюет, и успехи исключительно отрицательные. И тут вы, с одной стороны, предполагаете, что есть технология, которая способна, буквально, дать человеку сверхчеловеческие способности - а с другой, считаете, что эти вот люди, неспособные справиться с вонючим кустиком, смогут удержать вот этого джинна в бутылке? Только потому, что вы сами согласны ради этого стать раком? Нет, вас-то они раком поставят с превеликим удовольствием. Но вот только с джинном это вам ни хрена не поможет. Скорее, они самого джинна как раз и запрягут вас раком ставить, для эффективности. Своим-то можно.
И те "рационалисты", которые этого не понимают, кстати, должны быстренько сдать свою карточку рационалиста в ближайший пункт приёма вторсырья. Ну и восприниматься всеми остальными так, как если бы они уже это сделали. Красный нос и длинные башмаки опциональны, и так всё ясно.
Ребятки, государство даже с несчастной марихуаной уже полевека воюет, и успехи исключительно отрицательные. И тут вы, с одной стороны, предполагаете, что есть технология, которая способна, буквально, дать человеку сверхчеловеческие способности - а с другой, считаете, что эти вот люди, неспособные справиться с вонючим кустиком, смогут удержать вот этого джинна в бутылке? Только потому, что вы сами согласны ради этого стать раком? Нет, вас-то они раком поставят с превеликим удовольствием. Но вот только с джинном это вам ни хрена не поможет. Скорее, они самого джинна как раз и запрягут вас раком ставить, для эффективности. Своим-то можно.
И те "рационалисты", которые этого не понимают, кстати, должны быстренько сдать свою карточку рационалиста в ближайший пункт приёма вторсырья. Ну и восприниматься всеми остальными так, как если бы они уже это сделали. Красный нос и длинные башмаки опциональны, и так всё ясно.
Tags:
no subject
no subject
The Nth Country Experiment was an experiment conducted by Lawrence Livermore National Laboratory starting in May 1964 which sought to assess the risk of nuclear proliferation. The experiment consisted in paying three recent young physicists who had just received their PhDs, though had no prior weapons experience, to develop a working nuclear weapon design using only unclassified information, and with basic computational and technical support. ...
The experiment ended on April 10, 1967, after only three man-years of work over two and a half calendar years. According to a heavily redacted declassified version of the summary, it was apparently judged by lab weapons experts that the team had come up with a credible design for the technically more challenging implosion style nuclear weapon.
no subject
no subject
no subject
2. речь шла только об экономике. В экономике здесь нет никакого парадокса и близко (читай например книжку Мизеса Planned Сhaos).
3. Данные Стокмана хорошо показывают что падают не просто какие то темпы "ВВП" в целом (это и так все знают), а производительность на человека (т.е исключается рост за счет экстенсивности)
4. решил погуглить, что там насчет "парадокс производительности" как это понимают технари. Вылезла какая то хрень про парадокс Солоу. Не уверен, что это стоит потраченного времени, типа такого:
https://www.researchgate.net/publication/283120030_Paradoks_Solou_dvadcat_let_spusta_ili_ob_issledovanii_vliania_innovacij_v_informacionnyh_tehnologiah_na_rost_proizvoditelnosti
no subject
Речь шла не о Тайных Технологиях и Секретных Запасах. А даже о более простых вещах.
1. Например, ядерный реактор - это 42 год, реактивный двигатель (первой самолет) - в 1939, полет в космос человека - 1961. Возьмем 2 отрезка времени: 1900-1961, 1961-2022. Мне очень сильно кажется что первый отрезок был гораздо более инновационным. Возможно, часть людей со мной согласится.
2. Идея прогресса подразумевает увеличение темпа инноваций или их сохранение, а не затухание. Иначе это называется регресс.
3. Местами мы даже сворачиваем достижения предыдущих поколений: авто с ДВС, атомная энергия, высшая школа, железные дороги.
4. Может ли такая цивилизация построить СверхРазум (что бы за этим не стояло)? Когда Университеты - это места для нового мракобесия и избиения докладчиков (чего в Европе не было... лет 300 вроде?)
5. Мои ответ: это так же реально как Совку в 1982 году построить коммунизм за 10 лет. Через 10 лет мы увидели крах экономики и более примитивную стадию ее организации. Я уверен нечто похожее ожидает США в теч. лет 10.
6. Это все будет вследствие этатизма. Технарство здесь - один из аспектов, далеко не самый важный
no subject
3. Железные дороги нормально в не-ебанутых странах могут строить, ядерные реакторы тоже - довольно сильно продвинулись. Просто в США и части Европы сейчас ебанутая культура, но человечество этим не исчерпывается. Опять же, вопрос культуры.
4. Может ли - не знаю. Я предполагаю, для целей обсуждения, что может - потому что если обсуждать аргументы АИ-алармистов, то надо принять эту посылку, т.к. если её отвергнуть, то обсуждать вообще в принципе нечего.
no subject
Инновации не относятся к "маргинальной полезности". Маржинальная полезность - это дополнительная полезность единиц УЖЕ СУЩЕСТВУЮЩЕГО товара. Или вам надо объясниться каким боком это к инновациям и прогрессу или что вообще имелось в виду. Маржинальность никогда не мешала никакому прогрессу.
// когда-то культура предпочитала сесть жопой на бомбу и отправиться на Луну
под объяснение "культуры" можно подсунуть вообще все что угодно. Это нуждается тоже в развертывании. Например - западная культура умерла и заменена чем то иным. Тогда годится, но тоже нуждается в развертывании.
// ядерные реакторы тоже
Германия запретила ядерку и увеличила ценник на энергию на 50%. Это очень заразные вещи. Не важно сколько это займет: Бисмарковское социальное гос-во внедрялось на Западе лет 50. Теперь - повсеместно. "Сначала в Калифорнии а затем везде" - пословица довольно точно передает происходящее.
no subject
no subject
Далее остаются лишь инновации с малой отдачей. Либо долго ждать пока не дойдут до инноваций которые никому в голову не приходили т.к. до них возможно дойти лишь через длинную последовательность разных шагов.
no subject
Допущения, которые вы делаете, такие:
1. Существование инноваций разных "по типам отдачи": с "большой" и "малой" отдачей.
2. Человечество почему то реализует ("приходят голову")сначала только первые.
no subject
Возможность делать инновации и разрабатывать новые инновации сильно и качественно скакнула вверх несколько сот лет назад с возникновением (сначала в отдельных странах Европы) обществ где была защищена частная собственность и несколько ограничена власть начальства лезть в личные дела и бизнесы. После этого постепенно стали реализовываться ранее-невозможные продвинутые инновации. Но со временем их более-менее реализовaли, остались лишь те, где нужна долгая поступательная разработка из многих последовательных шагов.
no subject
это неестественно.
Это противоречит всему, что мы знаем о предпринимательстве. И теория и практика говорит, что как только предприниматель видит инновацию -> это ему сулит конкурентное преимущество -> имеет смысл реализовать весь инновационной "запас" немедленно.
Никто не начинает с инноваций "где отдачa больше", откладывая на N-нное время те "где меньше". Это не тот уровень аргументации, который нужен. Совсем неубедительно.
no subject
"как только предприниматель видит инновацию" - предприниматель времён Ньютона или промышленной революции в Англии не видeл "как сделать смартфон". Для этого надо было пройти много долгих шагов.
"имеет смысл реализовать весь инновационной запас немедленно" - а как реализовали, запасa больше нет. И новых инноваций больше нет (это в абстрактной модели, в реале что-то новое постепенно находится, но чем дальше тем медленнее).
no subject
если следовать логике "Инновации c большой отдачей, дающие большой прирост полезности, естественно реализуются первыми" (ваши слова), то времена Ньютона вообще были не очень инновационными по сравнению с каменным веком.
Вот возьмем телескоп - это же уйма чего надо сделать что бы его собрать. Например, шлифовка стекол. То ли дело каменный век: придумал херачить камнем о камень - ИННОВАЦИЯ, придумал бифас - ИННОВАЦИЯ. Т.е скорость инноваций должна быть бешеная. Скорость роста изменений в жизни бешеная. Потому что с "большой отдачей" идут первыми.
Почему же тогда человек десятки тысяч лет жил в каменном веке? Почему неандертальцы за 50 тыс. лет вообще не поменяли НИЧЕГО в своих технологиях?
no subject
Это про КНР и РФ?
Емнип в прочих странах не шибко с ЖД. В ЛА и Африке -- деградация. Собственно и в США тоже. И те пе.
Вот балтийских странах решили второразрядные пути в направлении восток-запад перешить на европейскую колею, так с 2010го возятся и воз и ныне там.
no subject
Собственно, Сверхразум уже построен. Если оценивать его не из сегодняшнего дня, а с позиций хотя бы нас самих 30-40 лет назад, не говоря уже о взгляде человека 19-го века.
Я, например, помню, как примерно на рубеже 80-90-х годов (т.е. совсем не дремучая старина) проводили опыты по компьютерному управлению автомобилем. Грузовик с большим компьютером мог ехать только по прямой, со скоростью пешехода и, конечно, по пустой дороге − на большее мощи того условно «мобильного» компьютера не хватало. А теперь Тесла ездит практически сам (я только про техническую сторону, не про экономику). Ещё более чистый пример − шахматы и Го, где компьютеры уже обыгрывают чемпионов-людей. Сверхразум, он самый.
no subject
1. шахматы и Го - примеры где нужен перебор огромного числа вариантов, т.е это не только НЕ СВЕРХ РАЗУМ, а даже не интеллект. И это "чистый пример"? - "мать, мать, мать... отозвалось эхо" )))
2. Тесла - я хотел привести этот пример сам, как пример пиздежа, как пример технологии которую ожидали еще лет 10 назад, и анонсировали как ГЛАВНУЮ инновационность Теслы, главную причину почему надо инвестировать в нее. Мол, "Вот, вот появится". А главное - появятся автономные машины-перевозчики, целые флотилии из автономных машин.
10 лет кормили обещаниями, работало все это криво, думаю криво и сейчас (на страх и риск водителя). А ГЛАВНОЕ - кукиш вам а не революция. Дальнобои как работали так и работают.
no subject
«кукиш вам а не революция»
Кто как, а я революции не ожидал; скорее, гегелевского перехода количества в качество. Кстати, в масковском же SpaceX, имхо, таковое и произошло за счёт многоразовости первой ступени ракеты.
no subject
Нет не включает.
Как не включает в себя быстрое умножение больших чисел, хранение больших баз данных, перебор больших массивов, оптимизации на простых алгоритмах и т.д. Везде где задействована математика понятная студенту спец. направлений - все это вообще не впечатляет.
"Оценка вариантов" в щахматах кстати тоже очень примитивная. С алгоритмом разберется студент. Все "оценки вариантов" в machine learning до недавних пор были очень примитивные с т.зр. математики (алгоритма). Все алгоритмы распознавания кошечек, все эти linear regression algorithms - это математика первого курса вуза (или 10 класса школы в СССР).
no subject
Конечно. Не то, чтобы это был "-разум". Но будет "сверх-".
Народ как-то пока ускользал от диктаторов через некоторое время. AI позаботится, чтобы дырочек в мышеловке больше не было. А дури полезть в мышеловку у народа хватит. Всю историю лез, стабильности хотелось, что ж сейчас не полезть.