![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
![[identity profile]](https://www.dreamwidth.org/img/silk/identity/openid.png){kind=small}
Я вот тут кстати подумал. Все ругают гугля за тупость его жемини, дескать у него викинги чёрные и всё прочее, совсем тупые. А на самом деле они совсем не тупые - просто по-другому невозможно с их установками. Я щас обьясню, почему.
Эта машинка, которая у них там внутре, это такой супер-гипер-попугай с невероятно гигантской памятью, которого долго и упорно надрачивают, как надо на какой вопрос отвечать. При этом, разумеется, оно ни хрена не понимает, что вопросы значат - оно просто определяет, что полагается отвечать, согласно данным и результатам тренировки. Во всяком случае, не делает того, что мы считаем "пониманием" - у неё там внутре всякие эффекты происходят, но сущность их совсем другая.
Теперь смотрим - вышло указание партии, что надо продвигать дайверсити в картинках. Скажем, у попугайца в базе 90% картинок программистов на Фортране - мужики, и все как один белые. Ну а ему говорят - делай дайверсити. Перекрашивай и пол меняй, если спросят программиста - должен показать дайверсити. Это попугайца научили делать, перекрашивать (офигенное достижение, все дела, кроме шуток) - но он абсолютно не знает, что это значит. Там всё - набор циферок, и это тоже. Он просто надрачивается на то, что если в архиве картинки такие, то перед тем, как выдать, надо их вот так перелицевать - его за это награждают, а если не сделает - то наоборот, наказывают (никаких жестокостей, просто меняют циферки в матрицах, это только называется "наказывают").
А потом в интернете ему говорят - давай викингов, или там пап римских. Попугаец, понятно, нихрена не знает, чем римский папа отличается от программиста на Фортране или викинга, но у него написано, что это всё люди (что такое люди, он тоже не знает, но это неважно), и что их картинки лежат вот тут, и делаются вот так - и конечно, нельзя забывать то, чему его тщательно учили. И получается предсказуемый результат.
И тут важно понимать, что это не недосмотр, не ошибка. Это неизбежность. Если достаточно хорошо натренировать его по программе "дайверсити", то его невозможно одновременно заставить выдавать правдивые результаты по истории - потому что это противоречивые запросы. Ну то есть как - можно сидеть и ручками вписывать "викинги - дайверсити не применять, папы - дайверсити не применять, солдаты вермахта - дайверсити не применять, солдаты бундесвера - вот тут надо на год смотреть, с какого года уже можно применять..." Это ж охренеешь всё это прописывать - и самый смех, всё равно всего не пропишешь, что-то да забудут.
Т.е. гугль просто - первые, кто воплотил программу дайверсити последовательно, и серьёзно подошёл к вопросу тренировки попугайца согласно линии партии. И любая фирма, которая сделает то же самое, я уверен, получит абсолютно тот же результат - потому что именно этого он и требуют от несчастной жестянки! А обучить жестянку двоемыслию пока трудновато - она "мыслить" не умеет, поэтому отличить, когда это идейно крепкий речекряк, а когда - подрывная вылазка врагов, она не может. От контекста зависит, ага. Есть ещё над чем работать.
Эта машинка, которая у них там внутре, это такой супер-гипер-попугай с невероятно гигантской памятью, которого долго и упорно надрачивают, как надо на какой вопрос отвечать. При этом, разумеется, оно ни хрена не понимает, что вопросы значат - оно просто определяет, что полагается отвечать, согласно данным и результатам тренировки. Во всяком случае, не делает того, что мы считаем "пониманием" - у неё там внутре всякие эффекты происходят, но сущность их совсем другая.
Теперь смотрим - вышло указание партии, что надо продвигать дайверсити в картинках. Скажем, у попугайца в базе 90% картинок программистов на Фортране - мужики, и все как один белые. Ну а ему говорят - делай дайверсити. Перекрашивай и пол меняй, если спросят программиста - должен показать дайверсити. Это попугайца научили делать, перекрашивать (офигенное достижение, все дела, кроме шуток) - но он абсолютно не знает, что это значит. Там всё - набор циферок, и это тоже. Он просто надрачивается на то, что если в архиве картинки такие, то перед тем, как выдать, надо их вот так перелицевать - его за это награждают, а если не сделает - то наоборот, наказывают (никаких жестокостей, просто меняют циферки в матрицах, это только называется "наказывают").
А потом в интернете ему говорят - давай викингов, или там пап римских. Попугаец, понятно, нихрена не знает, чем римский папа отличается от программиста на Фортране или викинга, но у него написано, что это всё люди (что такое люди, он тоже не знает, но это неважно), и что их картинки лежат вот тут, и делаются вот так - и конечно, нельзя забывать то, чему его тщательно учили. И получается предсказуемый результат.
И тут важно понимать, что это не недосмотр, не ошибка. Это неизбежность. Если достаточно хорошо натренировать его по программе "дайверсити", то его невозможно одновременно заставить выдавать правдивые результаты по истории - потому что это противоречивые запросы. Ну то есть как - можно сидеть и ручками вписывать "викинги - дайверсити не применять, папы - дайверсити не применять, солдаты вермахта - дайверсити не применять, солдаты бундесвера - вот тут надо на год смотреть, с какого года уже можно применять..." Это ж охренеешь всё это прописывать - и самый смех, всё равно всего не пропишешь, что-то да забудут.
Т.е. гугль просто - первые, кто воплотил программу дайверсити последовательно, и серьёзно подошёл к вопросу тренировки попугайца согласно линии партии. И любая фирма, которая сделает то же самое, я уверен, получит абсолютно тот же результат - потому что именно этого он и требуют от несчастной жестянки! А обучить жестянку двоемыслию пока трудновато - она "мыслить" не умеет, поэтому отличить, когда это идейно крепкий речекряк, а когда - подрывная вылазка врагов, она не может. От контекста зависит, ага. Есть ещё над чем работать.
Tags:
no subject
Зачем говорить с гугловским Gemini, когда можно на свой компьютер поставить LM Studio, загрузить в него dolphin mixtral 2.6 8x 7B и получать ответы без цензуры, не посылая при этом свои вопросы куда-то в интернет.
no subject
no subject
no subject
no subject
демократия больше всего боится стать посмешищем.
Забыли уже 1937?
Или же 1982-85?
Когда просто смехуйочки по поводу очередной смерти очередного старца могли закончиться печально.
Так Партия может напомнить - причём очень даже тщательно напомнить.
Антифы/БыЛыМы и пр. т.н. райоты покажутся детским садом.
Вангую такое уже в ноябре.
no subject
no subject
no subject
А ведь это недолго вернуть и даже усугубить.
Со всеми вытекающими.
И к этому всё и ведут.
no subject
no subject
no subject
no subject
no subject
no subject
Re: демократия больше всего боится стать посмешищем.
Смех - это самое страшное оружие. Именно смех убил СССР, когда люди стали, наконец, перестали боятся смеяться.
no subject
no subject
no subject
no subject
A bit too late for this. Снявши голову по волосам не плачут.
no subject
no subject
Они попытались создать мирного попугая, но выяснили, что там левый уклон уже в данных, еще до всякой обработки запроса напильником.
We found Claude was a bit more likely to refuse tasks that involved right wing views than tasks that involved left wing views, even if both were inside the Overton window. This part encourages Claude to be less partisan in its refusals. We don't want Claude to stereotype anyone, but we found that Claude was less likely to identify harmful stereotyping when it comes to majority groups. So this part is aimed at reducing stereotyping generally.
no subject
как мы наблюдаем сейчас бизнесы начали покидать синие штаты и переезжать в красные. Также и население тоже переезжает в красные штаты. Причем переезжает наиболее активное и профессионально образованное население.
Так кто и с кем будет воевать и почему?
И не забывайте, в красных штатах большая часть населения вооружены. А в синих наоборот население разоружают.
no subject
В результате он выдал имплементацию строк на 20, кстати вполне разумную, но в конце написал - return 101
no subject
no subject
Re: демократия больше всего боится стать посмешищем.
Демы оседлали очень удачную тему - мы за права всех угнетённых (белыми, супремасистами, фашистами, республиканцами, консерваторами...можно продолжить перечень) поэтому мы должны (угнетать, сжить со свету, закенселить....нужное подставить/добавить).
Ничего не напоминает из былого прошлого?
Будете ждать ХХ съезда при условии смены власти?
А ведь без этого никто бы и не дождался Перестройки когда уже МОЖНО было смеяться вслух, а не тлько в узком кругу на кухне.
На данный момент я пока не вижу абсолютно никаких предпосылок к чему-либо похожему - и это всё в условиях ДВУпартийности (оказывается "так называемой ДВУпартийности", к сожалению).
Всё идёт по плану
Re: Всё идёт по плану
no subject
На школу наезжают тоже, но там спустят на тормозах, я думаю, как классово близких.
Re: Всё идёт по плану
no subject
Re: Всё идёт по плану
no subject
Заманаешься такой хороший парсер самому писать.
Re: Всё идёт по плану
no subject
no subject
Но конечно и в 100 раз медленнее.
Re: Всё идёт по плану
no subject
Re: демократия больше всего боится стать посмешищем.
no subject
С ключевым первым комментарием рампитека.
no subject
no subject