светлое будущее

[stas]

Нашёл сейчас старый пост у dwarkin:

september 11th, 2002
В течение ближайших тридцати лет у нас появится техническая возможность создать сверхчеловеческий интеллект.
Вскоре после этого человеческая эпоха будет завершена.

(С) Вернон Виндж, 1993

Ну вот, мы уже прожили 23 из этих 30 лет. И всё ещё не можем создать даже банального червяка, не говоря уж об интеллекте. Но не сомневаюсь, что кто-то где-то прямо в этим минуты пишет статью о том, что вот уж сейчас-то через 30 лет уж точно!

Comments

[solomon2.livejournal.com]

За семь лет очень многое может произойти. В распознавании образов или, скажем, игре го человечков уже побили. Главное, что уже разработаны технологии deep learning, которые и приведут к этому пресловутому сверхчеловеческому интеллекту. Так что потерпите немного - будет вам и дудка, будет и свисток.

[trurle.livejournal.com]

. В распознавании образов /.../человечков уже побили.

Чо, правда что ли?

[stas]

В распознавании образов/.../человечков уже побили.

Пруфлинк?

Главное, что уже разработаны технологии deep learning, которые и приведут к этому пресловутому сверхчеловеческому интеллекту

У ней внутре думатель!
Чем эти технологии принципиально отличны от ранее имевшихся, и когда с их помощью можно будет понять, как работает червяк? Можете предсказать год, на который вы бы поставили 500 баксов?

так что потерпите немного - будет вам и дудка, будет и свисток.

Да у меня какой выбор-то? Ждали коммунизма, подождём и интеллекта. 30 лет туда, 30 лет сюда...

[e2pii1.livejournal.com]

технологии deep learning не приведут к сверхчеловеческому интеллекту. До интеллекта там как до луны на карачках. deep сети решают специфические задачи ограниченной по сравнению с реальным миром сложности.

> для создания ИИ можно обойтись без понимания!.

Нельзя.

> Методология deep learning состоит в том, что система сама находит features промежуточных уровней, которые с человеческой точки зрения могут быть довольно бессмысленными, однако на выходе получаем разумный результат.

система находит эти "features промежуточных уровней" в зависимости от того, какую у неё сделали архитектуру и какими данными на стадии тренировки её накормили. Результат из этого может выходить как разумный, так и (куда более вероятно) идиотский или тупой. Чтоб вышел разумный - нужно понимание и опыт тех, кто её дезайнит и тренирует, и то нет никаких гарантий что новая задача сможет быть успешно решена, как получится.

[cjelli.livejournal.com]

Видимо, сверхчеловеческий интеллект имеет право быть ограниченным настольными играми.

[stas]

Это пожалуйста, не возражал против подьёмного крана, не возражаю и против intel inside. Но мне кажется, что Виндж имел в виду что-то другое :)

[spamsink]

В цитате ничего не говорится о создании сверхчеловеческого интеллекта. Может быть, техническая возможность его создать есть уже сейчас; может быть, она появится в течение следующих 7 лет; но в цитате ничего не говорится, когда он будет создан и будет ли.

[stas]

Ну, в этом смысле конечно, может, у нас уже есть техническая возможность телепортироваться в другие галактики и жить вечно, просто мы не знаем, как именно. Но тогда говорить о том, что она появится через 30 лет, бессмысленно - если мы о ней ничего не знаем и не узнаем, какая разница, появилась она или нет и что это меняет? С тем же успехом я могу рассуждать о том, что через 30 лет на Альфе Центавра наступит коммунизм.

[sab123.livejournal.com]

Развитие обычно ускоряется по экспоненте. Поэтому за следующие 7 лет скорее всего придумают больше, чем за предыдущие 23.

[stas]

Оно уже 50 лет как ускоряется. Но всё чего-то не хватает. А обещают так, как будто вот-вот.

Кстати, насчёт экспоненты - это откуда известно? Где, например, экспонента в физике? В биологии? В химии?

[cjelli.livejournal.com]

Я столкнулся с интересным аспектом ИИ в шахматах. Вроде, уже все ясно. И вдруг человеки раскопали в шахматах то, что у "ИИ" не очень получается - составлять эстетически приятные этюды и задачи.

[stas]

Вот тут наверху меня убеждают, что достаточно создать глубокую нейронную сеть, включить её - и она магическим образом научится это делать.

Все дело в определениях

[beobahter.livejournal.com]

Для начала надо точно определить, что значит "эстетически приятные этюды и задачи."

Ну и определение для естественного интеллекта неплохо бы иметь, для понимания искусственного.

[dmpogo.livejournal.com]

Интеллект интеллектом, а из-за баранки автомобилей нас скоро выкинут ...

[stas]

Для вождения авто интеллект не особо нужен, нужна внимательность и реакция. Кроме того, тот факт, что автомобиль выкунул меня из бизнеса скачек на лошади, меня ничуть не пугает, не испугает и окончание бизнеса водить автомобиль вручную. Меня как раз пугает обратное - что они опять будут 30 лет обещать, что вот-вот, а в результате еле-еле сумеют водить трамвай, да и то исключительно под землёй, чтобы без неожиданностей.

[freedom_of_sea.livejournal.com]

Разделяю ваш пессимизм. Виндж во многом основывал свой прогноз на законе Мура, а он тоже буксует.

Я, в принципе, верю что всякие сверточные сети смогут показать AI на десятках миллиардов вентилей (просто потому что мозг может), но именно hardware не хватает.

[varera.livejournal.com]

мозг сугубо аналоговая система, а не бинарная. поэтому попытки воспроизвести именно человеческий интеллект на бинарных системах будут проблематичны.

нужен новый подход.

[e2pii1.livejournal.com]

> всякие сверточные сети смогут показать AI на десятках миллиардов вентилей (просто потому что мозг может), но именно hardware не хватает.

Нет конечно, дело не в количестве элементов, там куда более сложные и непонятные факторы работают.
У слона клеток много больше чем у человека, а ума гораздо меньше.

[dwarkin.livejournal.com]

Виндж и Курцвайл вроде признали уже, что поторопились чуток, но в ближайшие тридцать лет ну вот уж точно ;)

Интересно, что Элон Маск в очередной раз вспомнил про теорию Ника Болстрома о том, что мы все равно живем в симуляции, и в очередной раз набросил ее на вентилятор. В этом плане за 15 лет ничего не произошло.

По моим личным ощущениям non-generic weak AI сделал очень сильные шаги вперед за последние 10 лет. Насколько это приближает нас к generic purpose strong AI - вопрос открытый. Часть из нынешних технологий - старые алгоритмы на которые вдруг начало хватать computer power. И таких все больше со временем будет. Ну и новые разработки, само собой.

Многие апологеты технологической сингулярности говорят о том, что в определенных областях мы не понимаем насколько близок прорыв - т.к. ориентируемся на постоянный темп изменений, а он постоянно растет. Это, кстати, похоже на правду.

[stas]

Насчёт постоянно растёт - https://xkcd.com/605/
Тут вопрос в том, что консистентность этого роста абсолютно ниоткуда не следует. Может оказаться, что затраты на каждый шаг растут экспоненциально (как, примерно, в физике и фармакологии происходит), а может оказаться, что вообще все современные методы никуда не годятся для создания АИ. Может, конечно, и не оказаться, но я не вижу, на каком основании можно предсказывать, кроме построения графика по жалким 30 годам.
В области hardware мы к концу закона Мура довольно близки. Рост гигагерцев, собственно, уже практически остановился. Koe-что из железячек ещё, конечно, выжмут - но, по моему, мы довольно близки к границам текущего подхода. Дальше только мега-парaллелизм, а это совсем другой мир, с которым мы толком и обращаться-то не умеем.
Ну и аргумент "вы и представить себе не можете, насколько я прав!" - трудно оценить. Ну да, не можем. Но это не означает, что они правы :)

[dwarkin.livejournal.com]

Кстати классический тест Тьюринга уже пройден не слишком умным чатботом, эмулирующим тинеджейра из Одессы. Это само по себе ничего не доказывает, ибо разумом там и не пахнет. И даже неразумным generic AI, но тест пора придумывать новый :)

[sorhed.livejournal.com]

Это миф. Не пройден. Можете, кстати, сами с ним пообщаться.

[stas]

Я бы описывал это скорее как "тест Тюринга провален 33% лохов, которым всучили легенду о тупом тинейждере из Одессы" :)

[sorhed.livejournal.com]

Всё правильно, осталось 7 лет.

На данный момент ИИ уже превосходит человека почти по всем направлениям, кроме языковых (включая языки программирования). «Великий немой 2.0». Если это высказывание кажется преувеличенным — жду контрпримеров.

Язык сложен и магичен, но за семь лет допилят и лингвистику.

[samlazy.livejournal.com]

Год назад Вы говорили про 4.5 года. (http://sorhed.livejournal.com/610895.html)
Теперь уже 7 лет?