State, our lord and savior

[stas]

Читая всякие обсуждения насчёт того, как "правительство должно взять под контроль AI, пока не поздно", я сразу замечаю, насколько прочно всё-таки идея о всесильности и божественной природе государства живёт в подсознании людей. Дескать, конечно, мы все знаем про бюрократию и т.п., но если вот соорудить Настоящий Социализм (или, у более последовательных, Настоящий Фашизм) - то они смогут навести порядок. Где-то там, в Секретных Лабораториях, хранятся секреты этого Настоящего, которое Может, его просто пока не вытаскивали, потому что всё лучшее, как известно, от народа прячут - но теперь-то пришёл момент, когда можно Достать из Широких Штанин, наконец-то есть достойная цель! Давайте же, возьмите нас, жестокие, но эффективные управленцы, придите и володейте нами, спасите нас от AI!

Ребятки, государство даже с несчастной марихуаной уже полевека воюет, и успехи исключительно отрицательные. И тут вы, с одной стороны, предполагаете, что есть технология, которая способна, буквально, дать человеку сверхчеловеческие способности - а с другой, считаете, что эти вот люди, неспособные справиться с вонючим кустиком, смогут удержать вот этого джинна в бутылке? Только потому, что вы сами согласны ради этого стать раком? Нет, вас-то они раком поставят с превеликим удовольствием. Но вот только с джинном это вам ни хрена не поможет. Скорее, они самого джинна как раз и запрягут вас раком ставить, для эффективности. Своим-то можно.

И те "рационалисты", которые этого не понимают, кстати, должны быстренько сдать свою карточку рационалиста в ближайший пункт приёма вторсырья. Ну и восприниматься всеми остальными так, как если бы они уже это сделали. Красный нос и длинные башмаки опциональны, и так всё ясно.

Comments

[dionis_r]

«Может ли такая цивилизация построить СверхРазум (что бы за этим не стояло)?»

Собственно, Сверхразум уже построен. Если оценивать его не из сегодняшнего дня, а с позиций хотя бы нас самих 30-40 лет назад, не говоря уже о взгляде человека 19-го века.
Я, например, помню, как примерно на рубеже 80-90-х годов (т.е. совсем не дремучая старина) проводили опыты по компьютерному управлению автомобилем. Грузовик с большим компьютером мог ехать только по прямой, со скоростью пешехода и, конечно, по пустой дороге − на большее мощи того условно «мобильного» компьютера не хватало. А теперь Тесла ездит практически сам (я только про техническую сторону, не про экономику). Ещё более чистый пример − шахматы и Го, где компьютеры уже обыгрывают чемпионов-людей. Сверхразум, он самый.

[prakapovich]

// А теперь Тесла ездит практически сам (я только про техническую сторону, не про экономику). Ещё более чистый пример − шахматы и Го, где компьютеры уже обыгрывают чемпионов-людей. Сверхразум, он самый.

1. шахматы и Го - примеры где нужен перебор огромного числа вариантов, т.е это не только НЕ СВЕРХ РАЗУМ, а даже не интеллект. И это "чистый пример"? - "мать, мать, мать... отозвалось эхо" )))

2. Тесла - я хотел привести этот пример сам, как пример пиздежа, как пример технологии которую ожидали еще лет 10 назад, и анонсировали как ГЛАВНУЮ инновационность Теслы, главную причину почему надо инвестировать в нее. Мол, "Вот, вот появится". А главное - появятся автономные машины-перевозчики, целые флотилии из автономных машин.

10 лет кормили обещаниями, работало все это криво, думаю криво и сейчас (на страх и риск водителя). А ГЛАВНОЕ - кукиш вам а не революция. Дальнобои как работали так и работают.

[dionis_r]

BИнтеллект ключает в себя перебор и оценку вариантов. Чем выше интеллект − тем совершеннее способы отбраковки тупиковых ветвей. Вы, возможно, имели ввиду интуицию, которой компьютеры не обладают − так интуиция это не интеллект.

«кукиш вам а не революция»

Кто как, а я революции не ожидал; скорее, гегелевского перехода количества в качество. Кстати, в масковском же SpaceX, имхо, таковое и произошло за счёт многоразовости первой ступени ракеты.

[prakapovich]

// BИнтеллект ключает в себя перебор и оценку вариантов.

Нет не включает.
Как не включает в себя быстрое умножение больших чисел, хранение больших баз данных, перебор больших массивов, оптимизации на простых алгоритмах и т.д. Везде где задействована математика понятная студенту спец. направлений - все это вообще не впечатляет.

"Оценка вариантов" в щахматах кстати тоже очень примитивная. С алгоритмом разберется студент. Все "оценки вариантов" в machine learning до недавних пор были очень примитивные с т.зр. математики (алгоритма). Все алгоритмы распознавания кошечек, все эти linear regression algorithms - это математика первого курса вуза (или 10 класса школы в СССР).