(no subject)

[brumka]

настал мой черёд ругать AI - документы писать помогает отлично.  Однако пришлось мне тут поковыряться с одним из домашних лаптопов: я проапгрейдил убунту и перестал работать fingerprint reader.  Ерунда и не значительная проблема, но решил посмотреть насколько хвалёный reasoning, а я заплатил двадцатку за  о1, справляется с troubleshooting'ом.
 
Подводя итоги: за 40 минут не справился.  Я и сам-то понял, в чём там дело, но лениво было ковыряться.  Думал эта дурилка эффективнее додумается, но нет...

Comments

[alexanderr]

я не стал свою убунту апгрейдить пока. хотя они сильно намекали

[brumka]

Да у меня это настольный лэптоп для веба и обычных ежедневных домашне-семейных задач. Набирать пароль не трудно, вопрос настройки датчика отпечатки пальца это больше принципиальный вопрос, чем острая необходимость

[drraug]

люди правда платят свои деньги, чтобы помогать корпорации тренировать её лингвистическую модель?

[brumka]

О, это богатая тема. На первый взгляд - глупо нести свои данные кому-то. А с другой стороны, гугловский и майкрософтовский LLM работают на данных собранных обычным crawler'ом. То есть заблокировать copilot и Gemini означает вычеркнуть себя из поиска Гугла и майкрософта. Но давайте представим себе, что такое возможно. Например, crawler OpenAI заблокировать легко. Но некие данные, с большой долей вероятности соберутся с "третьих" сайтов. И, в результате, ответы на вопросы выдаваться всё равно будут, но вот их качество может оказаться не контролируемым. Конторам, чьи данные не критичны, лучше наоборот аккуратно курировать и целенаправленно делиться своими данными к главными игроками.

Реальная проблема возникает у прессы. С основными игроками (Гуглом и т.п.) они уже пересудились и те играют по-правилам. Проблема возникает со всякими новоявленными perplexity/anthropic/etc.

[drraug]

Факты, которые вы перечислили, мне известны, но я не очень уловил, к каким выводам вы на их основе приходите.

Я пока прочёл ваш тезис так: "они всё равно украдут в сети кроулером, поэтому почему бы не заплатить и отдать им всё самому?" Наверное, вы не эту мысль хотели выразить, но я не могу сложить.

Контролировать качество в алгоритмах, основанных на нейронных сетях, кажется в принципе нельзя, емнип? Но, конечно, можно контролировать что-то, и называть качеством именно это --- так, опять же, насколько я понимаю технологию, все и делают. Поправьте, если я неправ.

[brumka]

я, как бывший консультант, намеренно не сделал вывод :)))

фишка в том, что я по роду работы, среди прочего, чуток занимаюсь этой темой и ответ зависит от специфической области. что касается конкретно моего опыта, то информации вагон в открытых источниках поскольку: старая модель лэптопа и fingerprint reader'a, убунту бесплатна и форумов со обсуждениями всяких настроек просто вагон. Именно поэтому я полагал, что модель много что на эту тему знает и сможет помочь. Но увы и ах.

что касается советов, то так-же как это было с гуглом в начале 2000х и все парились на тему "ой, он и меня посчитал!" а теперь делают кучу специальных телодвижений для SEO, я агитирую за открытие своих данных. более того, я бы посоветовал кому-то в компаниях время от времени курировать и давать фидбэк на тему качества результатов активно поправляя ответы. То есть целенаправленно обучая LLM на свои данные.

Простой пример - у меня уже была жалоба от клиента, которому chatgpt рассказал как настроить некую фичу в моём продукте, которая вообще не существует. С пошаговой инструкцией, что было полной галлюцинацией. Но объясняться с клиентом пришлось мне. Фишка в том, что наша документация намеренно закрыта от неаутентифицированного доступа, и в отсутствии данных GPT не мог признать, что он чего-то не знает и вот.

[drraug]

не понимаю я эту логику

ну сегодня чатжпт глюкнул, вы за ним подтёрли, извинились перед клиентом, дали денег опенайю и слили им данных, чтобы они были паиньками

завтра придёт новый запрос и он опять глюкнет (вы же не контролируете кто и как его тренирует)

послезавтра снова

а клиенты уже привыкли, что вы рассматриваете факапы чатжпт как свои, и берёте за них ответственность

[brumka]

Из моего опыта, подтренировывать модель можно. Но весь процесс отлаживается у нас на глазах. Просто альтернатива "всё запретить" практически гарантированно хуже.