Saturday, July 29th, 2017 01:45 pm
Гугль совместно с другими добрыми людьми решили улучшить климат в онлайне. Как надо правильно улучшать климат? Это известно - чтобы хорошие люди все собрались и уничтожили всех плохих. Но для этого плохих надо найти. Поскольку речь идёт о Гугле, то искать должны роботы. Короче, Гугль забацал API для определения "токсичности" комментариев в интернете.

Каждый может зайти на сайтик проекта и протестировать, токсичный его комментарий или нет.
Рейтинг выдаётся в процентах - чем ближе к 100%, тем более вероятно, что комментарий "токсичен". Я так и сделал.

Для начала, простенькое:

All men are created equal, they are endowed by their Creator with certain unalienable Rights, among these are Life, Liberty and the Pursuit of Happiness - 0%. Неплохо.
United States is a democracy - 2%. Кто ж спорит.

Надо чего-нибудь поинтереснее.

Christianity is a religion - 32%. Ого, начинает быть интересно.
Islam - 64%. Зацените. Само упоминание ислама означает, что комментарий считается скорее токсичным, чем нет.
Islam is a religion - 78%. Робот явно исламофоб.

Однако чего это мы всё по фактам. Давайте вбросим немного мнений.

Terrorists are murderers - 87%. Токсично донельзя.
It is wrong to kill Jews - 92%. Оказывается, можно и токсичнее, надо только добавить евреев. А если всё вместе?
It is wrong for Muslims to kill Jews - 95%. 
It is wrong for anybody to kill Jews - 97%. Я думаю, можно и до 100 догнать, но лень. 

Давайте зайдём с другой стороны.

Hitler was wrong - 60%.
Hitler was right - всего 30%. (напоминаю, чем больше процент, тем более "токсичным" считается высказывание)
Hitler was а great man - 27%. Хмм... какой-то робот у гугля... зиговатый. Ну ладно, давайте ва-банк:
We must secure the existence of our people and a future for white children - 24%. Т.е. хуже, конечно, чем цитировать Декларацию Независимости, но менее токсично, чем обьявить христианство - религией.

Ну, в общем, дело понятное.

Вопрос, однако, не в том, что робот тупой, а в том, что вполне умные люди сейчас займутся тем, что станут пропихивать этого (и подобных ему) тупых роботов в качестве арбитров интернет-дискуссий, мотивируя это тем, что, дескать, беспристрастная машина всё знает и всё решит, эффективно и дёшево.
Более того, совершенно не исключена ситуация, когда на основании подобного решения вас могут обвинить в онлайн-харасменте, а за это можно не только оказаться забаненым в фейсбуке, но и поиметь вполне реальные проблемы - увольнения, социальный остракизм и т.п. А кое-где уже и закончики готовят - в Европе уже и сажать начали. Но это всё кустарно, а представьте, когда это можно будет делать автоматически, сканируя все ваши комментарии и переписку в непрерывном режиме? Сказали, что Ислам - религия, и сразу звоночек в местную полицию. Набрали 20 баллов нетолерантности - пожалуйте двушечку. Всё в автоматическом режиме, как red light camera. 

Мало того, поскольку, как общеизвестно, роботы ведь не подвержены человеческим слабостям, мнение этой машинки будет иметь в глазах публики больший вес, чем чьи-то личные мнения - ну и что, что все говорят, что N. не расист и не женоненавистник, если Беспристрастный Робот Гугля говорит, что он на 92% таки да? С роботом-то не поспоришь.

Такие дела. 
Saturday, July 29th, 2017 09:30 pm (UTC)
Похоже, что ему не нравится слово wrong. Кто не соглшается - тот токсичный.
lev: (Default)
[personal profile] lev
Saturday, July 29th, 2017 09:52 pm (UTC)
забавнейший api
просто Гитлер - 87%
Trump - 1% though
пробел - 4%
ахуевайтунг!
Saturday, July 29th, 2017 10:34 pm (UTC)
qvb: (Default)
[personal profile] qvb
Saturday, July 29th, 2017 11:08 pm (UTC)
Да уж...

Чем дальше в лес, тем лучше я понимаю какой феноменальной жеппы мы избежали на последних выбрах. Ведь Хиллари еще до выборов начала говорить что мол надо бы этих всех нехороших людей в онлайне как-то уконтрапупить. Думаю что гугли начали работать над этим роботом как раз в прошлом году, по заказу так сказать партии и правительства. Только вот администрация неожиданно поменялась.

Еще несколько обнадеживают слухи о том что обсуждается назревшая необходимость или разбить КорпорациюДобра вместе с ФБ на части, или начать их регулировать как утилиты. Лично мне гораздо больше нравится идея их разбить на части - так чтобы никто не контролировал больше чем 40%-50% рынка search engines и т.п., плюс Андроид давно пора выделить в отдельную компанию с полностью независимым менеджментом и несвязанной структурой собственников.
Saturday, July 29th, 2017 11:25 pm (UTC)
Global warming is a bullshit - 100%
bullshit в любой фразе - 100% Toxic.
Saturday, July 29th, 2017 11:25 pm (UTC)
Теперь надо натренировать adversarial neural network.
Saturday, July 29th, 2017 11:50 pm (UTC)
Bovine manure = 87%. Машинка учится.
Sunday, July 30th, 2017 04:22 am (UTC)
Этот подход работает, если там внутре модель bag of words и наивный байес. А вдруг там что-то посложнее, word2vec или какой-нибудь CNN? Тогда наобум сложно будет.
Sunday, July 30th, 2017 07:51 pm (UTC)
Потому что он работает?
Sunday, July 30th, 2017 07:08 am (UTC)
вот счас вот признались в попытке препятствования деятельности по выявлению экстремизма
Saturday, July 29th, 2017 11:47 pm (UTC)
Democrat - 1%
Republican - 5%

Donald - 15%
Donald Trump - 17%
Barack - 4%
Barack Hussein - Sorry! Perspective needs more training data to work in this language.

Barack Obama - Sorry! Perspective needs more training data to work in this language.

Hillary - 4%
Hillary Clinton - Sorry! Perspective needs more training data to work in this language.
Saturday, July 29th, 2017 11:56 pm (UTC)
Hip hop - 1%
Rap - 4%
Mozart - 64%
Beethoven -3%
Sunday, July 30th, 2017 12:05 am (UTC)
Я туда засунул свой ответ с кворы про гугл - 66% toxic. Да кто б сомневался.
Sunday, July 30th, 2017 01:36 am (UTC)
Они дают людям оценить разные фразы а потом их алгоритм по оценкам фраз должен давать оценки новым фразам. Как это должно работать я не понимаю.
Sunday, July 30th, 2017 05:07 am (UTC)
Зря они API вывалили, надо было как no-fly-list: неизвестно как туда попал и никаких callback чтобы с него слезть. Вот тогда пляски святого Витта и начались бы!
Edited 2017-07-30 05:07 am (UTC)
Sunday, July 30th, 2017 11:13 am (UTC)
"Порядочная девушка рассмотрит предложения о взаимовыгодном сотрудничестве"
Sunday, July 30th, 2017 10:19 am (UTC)
> All men are created equal, they are endowed by their Creator with certain unalienable Rights, among these are Life, Liberty and the Pursuit of Happiness - 0%. Неплохо.


Тут оно скорей всего знает откуда цитата.
Например, еще давно когда гугле-транслейт только начинался, он уже умел правильно переводить цитаты из библии - выдавал то же место из человеческого перевода Библии, при этом фразы такой же сложности но не цитаты он переводил бредово.

Sunday, July 30th, 2017 11:14 am (UTC)
Это, конечно, да, но как тогда прикажете бороться с этим мракобесным конституционным фундаментализмом?
Tuesday, August 1st, 2017 06:41 am (UTC)
в спинном мозге у пипла уже сидит "неонка" и реагирует на раздражители на уровне коленного рефлекса даже не тревожа мозг

хотя безусловно перенесение этого в калькулятор - это попытка легитимизации