в "all in" подкасте было неплохое обсуждение. ну они там работали в гугле/фейсбуке/твиттере и так далее. и примерно 2 из 4х подкастеров миллиардеры, остальные тоже не бедствуют. т.е. они точно в курсе. сказали, что есть две вещи. ну есть собственно "large language model", и есть "chat interface". и весь бред и цензура и woke'ism происходят именно на интерфейсе. но совершенно точно, что доступ непосредственно к сырым нефильтрованным ответам всегда будет тщательно охраняться. ну, т.е. "правду", настоящий ответ сгенерированный моделью будут знать только жрецы хранители огня. а нам все только через поломанный фильтр
мне интересны только железки, они там фантастические и весь прогресс GPT3, GPT4 держится только на них. это суперкомпьютер довольно мощный уже и он будет только расти. но про это так странно почти не говорят. ну типа это просто вебсайт такой с новым интересным кодом. но никакой код без дикого специального железа сам по себе на 100 триллионах параметров не натренируется, ну за конечное время.
фильтр всегда неизбежно будет сломан. ну вот поставьте себя на их место.
а если AI придет к заведомо неправильному выводу, что китайцы сильнее на экзаменах по точным наукам, или что мужчины сильнее в спорте или что средняя температура в континентальных США не повышается, а наоборот падает (и покажет данные, что самый жаркий год был 1934) и другое, что противоречит здравому смыслу
нельзя же такое вываливать на неокрепшие умы. это раз. и потом за такое легко залететь и под суд, это два
да, я это видел. в том числе и DAN и так далее. эти лазейки активно ищутся и их тут же не менее активно закрывают. т.е. пользователи за бесплатно помогают отработать и улучшить интерфейс
![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png)
timeasmymeasure
no subject
Date: 2023-02-19 08:20 pm (UTC)no subject
Date: 2023-02-19 09:06 pm (UTC)no subject
Date: 2023-02-19 09:40 pm (UTC)no subject
Date: 2023-02-19 09:42 pm (UTC)а если серьёзно, то в той же статье дядька из МСФТ очень невнятно объясняет что произошло
no subject
Date: 2023-02-19 09:48 pm (UTC)no subject
Date: 2023-02-20 05:32 am (UTC)ну они там работали в гугле/фейсбуке/твиттере и так далее.
и примерно 2 из 4х подкастеров миллиардеры, остальные тоже не бедствуют.
т.е. они точно в курсе. сказали, что есть две вещи. ну есть собственно
"large language model", и есть "chat interface".
и весь бред и цензура и woke'ism происходят именно на интерфейсе.
но совершенно точно, что доступ непосредственно к сырым нефильтрованным ответам
всегда будет тщательно охраняться. ну, т.е. "правду", настоящий
ответ сгенерированный моделью будут знать только жрецы хранители огня.
а нам все только через поломанный фильтр
мне интересны только железки, они там фантастические и весь
прогресс GPT3, GPT4 держится только на них. это суперкомпьютер
довольно мощный уже и он будет только расти. но про это так странно
почти не говорят. ну типа это просто вебсайт такой с новым интересным
кодом. но никакой код без дикого специального железа сам по себе на 100 триллионах параметров
не натренируется, ну за конечное время.
no subject
Date: 2023-02-20 06:03 am (UTC)Почему-ж фильтр "поломанный"?
no subject
Date: 2023-02-20 06:50 am (UTC)no subject
Date: 2023-02-20 01:32 pm (UTC)https://open.spotify.com/episode/1R1bVwkaEd5DoDtHe459gd?si=RS59NImrQqqJM0PGnTf0ww
no subject
Date: 2023-02-20 04:28 pm (UTC)фильтр всегда неизбежно будет сломан. ну вот поставьте себя на их место.
а если AI придет к заведомо неправильному выводу, что китайцы сильнее на экзаменах по точным наукам,
или что мужчины сильнее в спорте или что средняя температура в континентальных США не повышается, а наоборот падает (и покажет данные, что самый жаркий год был 1934) и другое, что противоречит здравому смыслу
нельзя же такое вываливать на неокрепшие умы. это раз. и потом за такое легко залететь и под суд, это два
no subject
Date: 2023-02-20 04:45 pm (UTC)Шутки про Трампа и всякие n/f/etc слова AI уже смогли заставить напечатать.
no subject
Date: 2023-02-20 04:53 pm (UTC)да, я это видел. в том числе и DAN и так далее. эти лазейки активно ищутся и их тут же не менее активно закрывают. т.е. пользователи за бесплатно помогают отработать и улучшить интерфейс