Работа в биотехе и искусственный интеллект

[mary_spiri]

Сейчас только ленивый не пишет о том, как ИИ меняет их работу, а в конце непременно прогноз: нам всем капец, всех уволят. Речь идет о новых самообучающихся системах типа ChatGPT, которые к удивлению публики навострились делать якобы творческую работу - например, писать картины, и отвечать на каверзные вопросы о смысле жизни. Сегодня я слышала новость, что голливудские сценаристы очень беспокоятся, что их работу перепоручат ИИ. По этому поводу они даже вроде собираются бастовать.

К сожалению, некоторые начальники тоже считают, что ИИ лучше людей, и даже занимаются массовыми увольнениями например, программистов-кодировщиков. Раньше такой род работы был якобы гарантией от увольнения (нет, не был, конечно), а сейчас якобы они никому не нужны, все ИИ сам сделает. Варясь в американском биотехе уже пару десятков лет, я подобное уже видела.

Сначала были такие же страшилки про роботизацию. Нынче лабораторные роботы стоят на каждом углу, и умение с ними обращаться входит в обязательный набор навыков даже для нижнего звена (впрочем в биотехе нижнее звено имеет минимум 4-х летний колледж). Роботы хороши тем, что не делают ошибок. Но не все операции поддаются роботизации. Иногда совершенно примитивные вещи требуется делать вручную: например, открывать морозильник и доставать образцы. Роботизация этой процедуры обойдется слишком дорого (в частности за счет необходимости перестраивать морозильники, которые уже стоят неприличные деньги). А люди нужны все равно. Ибо кто-то должен стоять рядом с роботом и присматривать за тем, как он делает свою работу. И кто-то должен выбрасывать мусор, складывать нужные материалы на деке, откуда робот их берет, и т.д. Плюс роботам нужны инженеры. Итого: на определенный объем работы мы сейчас, вместо трех лаборантов за 60-70 тыс в год каждый, имеем одного лаборанта за 80 (ибо он умеет обращаться с роботами), инженера по тех обслуживанию за 110-130, и группу, разрабатывающую программы для роботизации процессов (за 150 на человека, ибо эти люди-таки имеют высокую квалификацию). Экономией средств такой подход не является. Но роботизация - наше будущее. Грозит ли это моей работе? Нет, я разрабатываю те молекулярные тесты, которые в будущем будет делать робот, программу для которого по итогам моей работы напишет та самая группа продвинутых компьютерщиков. Песенка разработчика: "А без меня, а без меня тут ничего бы не стояло, когда бы не было меня... ".

Искусственный интеллект - это более страшная страшилка. Ибо он якобы способен к творчеству. Правда из того, что я видела, творчеством я бы не назвала ни одну из картинок. Это все компиляции, которые впрочем могут быть неожиданными и интересными. Точно так же ИИ отлично компилирует научные статьи в обзоры, делает выводы и рекомендации, и тем самым может очень облегчить и убыстрить научный процесс. И может заодно разрабатывать планы экспериментов и писать статьи. В этом кстати есть большая опасность - результаты непроведенных экспериментов ИИ тоже может сочинять, и делать это крайне убедительно. Не удивлюсь, если в будущем нужно будет заверять сам факт проведения экспериментов личными подписями коллег и надзирающих органов (кстати, уже сейчас бы не помешало).

Но вернемся к тому, что ИИ делать не может. Для начала случай из практики от моего мужа при позднем совке. Он работал в Институте Биохимии имени Баха в Москве, занимаясь электрохимией. И они заметили, что приборы и эксперименты гораздо лучше работают в дни приезда зарубежных гостей, назвали это все "эффект Индиры Ганди". Типа самый лучший результат был получен при ее приезде. Мой муж не склонен к мистике, и выявил причины методом простой дедукции. Рядом с Бахом на Ленинском проспекте размещался Завод им Орджоникидзе. Рабочих завода выгоняли на проспект встречать зарубежный гостей и махать флагами. В связи с чем останавливали блюминги, работа которых сильно влияла на напряжение электрического тока в сети, ведущей в частности к инструментам в Бахе. А стабилизатора напряжения у них тогда не было (вернее был но не для всех приборов). Поэтому остановка блюмингов давала институту стабильное напряжение во время работы измерительных приборов. По словам мужа, к тогдашнему умозаключению он пришел довольно быстро, типа не успела еще Индира Ганди уехать обратно в Индию. Не думаю, что ИИ способен к подобному анализу совершенно не связанной друг с другом информации.

Конечно, можно возразить, что совок был настолько фантастичен, а обычные вещи - настолько поставлены с ног на голову, что никакому ИИ никогда не понять этой сказки, сделанной былью. Однако у меня есть свеженький пример, недельной давности, из практики американского биотеха. Мы с напарником занимались синтезом длинных кусков ДНК. Звучит гламурно, на деле просто - берешь набор ферментов и вперед. У нас было два метода, один работал хорошо, а второй вдруг забуксовал. И вроде бы неважно, но как-то неприятно, должны по идее оба работать одинаково хорошо. Оба метода требуют инкубации при определенных температурах. Для простоты мы использовали машину для ПЦР, у нас их много стоит. ПЦР требует очень точного поддержания температуры в реакционной смеси. Обычно реакции занимают длительное время и включают нагревание до 95-98 градусов, что способствует испарению. Чтобы убрать испарение, крышка нагревается до 105 градусов Цельсия. Причем крышка отделена от смеси слоем воздуха, а температуру инструмент меряет и регулирует в металлическом блоке вокруг плашки со смесью.

Метод сборки ДНК, который не работал, требовал инкубации при 16 градусах Цельсия. И мне пришло в голову, что при таких условиях процесс поддержания температуры в смеси работает хуже, чем надо, если крышка нагрета. То есть в смеси температура выше, чем 16 градусов, что мешает работать одному из ферментов и делает реакцию неэффективной. Собственно, этого быть не должно, ибо обычно после окончания ПЦР реакционная смесь охлаждается инструментом до 4 градусов и в этом состояни может стабильно храниться например в течении ночи, пока утром не придут и не переставят в холодильник. Крышка при этом остается включена на нагрев. Да и изготовители инструментов гарантируют точное поддержание температуры в металлическом блоке и в смеси (от 0 до 100 градусов). То есть в принципе подобная гипотеза противоречит самому использованию машины для ПЦР. Однако проверить ее легко: отключить нагрев крышки. И вуаля: метод сборки сразу заработал со всей должной эффективностью. Правда тут же возникло испарение, но нам оно не помешало. На меня теперь смотрят с восторгом (ибо гипотезу эту я предложила минут через 10 обдумывания вопроса почему). А босс пошутила, что пока мы такое можем, ChatGPT нам не конкурент, он так не может.

Но может ИИ многое. Мой напарник в какой-то момент устал ждать, пока наши компьютерщики раскачаются написать код, чтобы упаковать данные нужным образом. И написал фразу о том, что ему нужно, простым английскимязыком для ChatGPT. Код свой он получил через 10 минут, причем код этот отлично работает и пакует данные. Задача конечно простая, как грабли, но сам бы он возился и разбирался с пол дня. А так раз и готово. А шефиня моя сбросила в ChatGPT несколько слайдов с текстом и попросила кратко просуммировать. Получилось совсем неплохо, вполне по делу. Впрочем, во всех этих видах активности по-прежнему необходим контроль со стороны человека. Прямо как с роботами.

Comments

[lj-frank-bot.livejournal.com]

Hello!
LiveJournal categorization system detected that your entry belongs to the category: Технологии (https://www.livejournal.com/category/tehnologii?utm_source=frank_comment).
If you think that this choice was wrong please reply this comment. Your feedback will help us improve system.
Frank,
LJ Team

[mary-spiri.livejournal.com]

OK

[vvz.livejournal.com]

Как начальник транспортного цеха (то есть отдела автоматизации и скрининга в бостонском биотехе) я бы сильно поспорил о таких запросах группы роботизации. Особенно по поводу группы, разрабатывающей программы. Но это требует куда более глубокого вникания в вашу специфику.

[mary-spiri.livejournal.com]

Наши имеют амбициозный план полной роботизации всего процесса. Процесс занимает 2.5 дня и имеет много стадий. Поэтому денег им надо много. Правда год назад их малость перешерстили и поувольняли. Так что может сейчас запросы уже меньше. Я в общем стараюсь в это все не лезть, мои задачи совсем другие. Плюс мне немножко обидно за биологов. У нас разработчик со степенью начинает около стольника. Правда растет зарплата довольно быстро.

[rider3099.livejournal.com]

Мне нравится общаться с ИИ. Забавно получается

[mary-spiri.livejournal.com]

Да, это он умеет, забавно. И по работе полезно. Поэтому мне как-то трудно его бояться.

[egovoru.livejournal.com]

"Прямо как с роботами"

Лайк :)

А ты сама пробовала им пользоваться?

[mary-spiri.livejournal.com]

Роботами? Конечно, мне нужно по работе. Но я просто гоняю программы, без самодеятельности. А ChatGPT сама пока не пробовала. Некогда сейчас. Но надо бы.

[koniglio.livejournal.com]

Пассаж про Индиру Ганди и машины/махание флажками — ну очень забавно! )) Хе-хе.

Насчет ИИ — да, сейчас много всяких статей/блогов/мнений.

Имхо, ИИ только-только начинает входить в нашу жизнь, но еще лет 10 и он там будет плотно сидеть. И это нормально.

Насчет работ. Уйдут тупые работы, требующие тупой автоматизации. Из серии «мытье полов и банок». Написание простых сценариев — из них половина и так тупые, так что подмены никто и не заметит. Имхо, останутся либо очень творческие работы (ученые, художники и .т.д) или те, кто умеет что-то руками делать (врачи-хирурги, художники-реставраторы, да и просто няньки, моющие попы). Но вообще, мы живем в интересное время. Очень. У нас в госпитале ИИ никакого нет (акромя robotic surgeries), и, видимо, не предвидется. А даже жаль.

[mary-spiri.livejournal.com]

Ну наверно обработка статистики по госпиталю будет частично передана ИИ. Хотелось бы, чтобы ИИ занялся общением со страховыми компаниями. Им бы это пошло на пользу. Врачам может быть полезно использовать ИИ для повышения квалификации. Вообще обучение это пока поле непаханое. Можно много придумать применений. Но вот люди, которые работают с другими людьми и за ними ухаживают - незаменимы. Контакт этот по-моему очень важен. Я в первый и единственный раз рожала в Москве во вполне приличном роддоме. Так меня просто бросили: заперли в одиночной родильной палате, приходили проверять раз в пару часов, роды медленные, чего суетиться. Я одна, скука смертная, ни книжки, ни даже простого радио, никакого общения. Больно, кричать без толку, заходят и говорят, что будут ещё реже заходить, типа вообще про тебя забудем. И вообще, ты же была пионеркой, чего ж не терпишь молча, как юные герои? На самом деле, все, что надо, они делали, ребенок родился здоровый, сама тоже оклемалась. Но до чего же тошны были эти сколько-то часов страданий в одиночестве, просто сил нет вспомнить. Так что тут не надо бы роботизации.

[irrelative.livejournal.com]

Роботы в биотехе... ох...

У нас они используются только на стадии контроля качества образцов, присланных извне. И да, требуют участия оператора на многих этапах: принести, отнести, проверить, что оттаяло, померять концентрацию и т.д. Одно время приходилось этим заниматься - как вспомню так вздрогну. В большинстве случаев было чувство "что-ж ты, сволочь, копошишься-то, я бы руками вот ей богу уже давно бы все закончил" :-)

Хотя, конечно, такие вещи, как нормализация концентрации у 96 (а теперь и у 384) образцов - это роботу поручить надежнее.

Еще один полезный робот специально предназначен для хранения образцов как в отдельных пробирках, так и на плашках. Хранит у себя унутре в случайном порядке, помнит куда что положил и умеет по команде доставать то, что велели. Удобно.

Удивили ваши ПЦРные страдания: у нас тут уже почти на всех ПЦРницах есть возможность менять температуру крышки, а так же чтобы она вообще отключалась по умолчанию при переходе в режим "хранить в 4С вечно".

[mary-spiri.livejournal.com]

У нас роботизации пошла немножко дальше, особенно в продакшене.

В нашей машине для ПЦР тоже можно менять температуру крышки, сколько угодно и всегда пожалуйста. Просто никто это не делает, ибо зачем? Вроде как и так хорошо выходит. И по идее температуру машина должна держать хорошо. Плюс испарение, если отключать при долгих инкубациях. Поэтому никаких страданий, одна рутина. А как раз рутину и надо было поменять.

[vakhnenko.livejournal.com]

> Искусственный интеллект - это более страшная страшилка. Ибо он якобы способен к творчеству. Правда из того, что я видела, творчеством я бы не назвала ни одну из картинок. Это все компиляции, которые впрочем могут быть неожиданными и интересными

Тут появляется простой вопрос — а когда компиляция перестает быть неожиданной и интересной переработкой старого, и начинает быть чем-то новым. Все стоим на плечах гигантов, ведь.

> В этом кстати есть большая опасность - результаты непроведенных экспериментов ИИ тоже может сочинять, и делать это крайне убедительно.

Да, всё так. Весьма поучительно пообщаться с ИИ на тему в которой разбираешься. Или посмотреть, как он уверенно выдает правильно выглядящие гиперлинки, ведущие в никуда.

Но — это всё пока. Прогресс ошеломительный. По сути, создана вещь, которая вообще без всяких проблем проходит оригинальный тест Тьюринга — и все, кажется, и забыли уже, что была такая важная веха. И это GPT3.5, а сейчас уже и GPT4 выкатывают.

Мы в нашей софтверной конторе сейчас думаем, что с этим всем счастьем делать. Прямо сейчас у нас начался проект, в котором мы пытаемся выяснить — насколько хороши существующие ИИ в автогенерации кода по prompt'ам (есть как минимум GitHub Copilot и AWS Code Whispere, плюс всякие там Tabnine и иже с ними), в сканировании существующего кода и указании на те или иные проблемы, как хорошо они защищают интеллектуальную собственность, как их учить нашим внутренним стандартам и тому подобному. Очень интересно.

К слову — меня попросили сделать для конторы сайт про ChatGPT, что я делал при активном использовании последнего, и у меня ушло на создание начальной версии где-то полдня, хотя раньше такой же объем работы занял бы в несколько раз больше.

[mary-spiri.livejournal.com]

Ну да, все так. Brave new world. Собственно, мой пост о том, что пока существуют неожиданные связи, которые требуют человеческой ментальности для того,чтобы их найти. И существует необходимость человека как арбитра того, насколько хорош продукт ИИ. И пока человек будет адресатом, он же будет и арбитром.

[notabler.livejournal.com]

Очень интересен и пост, и коменты. Успокоили). Хотя я и не беспокоилась особенно, твердо уверенная в коллективной мудрости человечества)

[mary-spiri.livejournal.com]

Спасибо! Мне тоже очень комменты нравятся. Интересно!

[dimorlus5.livejournal.com]

Я где-то с января прошу ChatGPT посчитать сколько весит катушка из медного провода заданного сопротивления, в самом начале ИИ заявил, что это невозможно, пришлось посчитать самому.

Weight of copper wire 0.2548mm diameter and 13.5ohm resistance (8.933/0.0172)*(pi^2*( 0.2548)^4/16)*13.5=18.23g

С тех пор я много раз спрашивал и ChatGPT, и Google Bard, они уже научились правильно расписывать элементарное, в рамках школьной физики решение, но правильный ответ я пока так и не увидел. Сейчас ChatGPT считает, что So the weight of the copper wire with a diameter of 0.2548mm and a resistance of 13.5ohms is approximately 0.000004529 grams or 4.529 micrograms. А Google Bard, что Therefore, the weight of the copper wire with 0.2548mm diameter and 13.5ohm resistance is 28.494g.

[mary-spiri.livejournal.com]

Ну да, ИИ базирует ответы на имеющейся релевантной информации. Он может переработать чертову уйму этой информации. Но только ту, которую зададут как релевантную. Пока это похоже так. Человеческий мозг со своей стороны в поисках решения прокручивает всю имеющуюся информацию любого плана. И в силу недостаточной мощности запоминания имеет избирательную память. И в нашей памяти знания хранятся в форме, позволяющей находить аналогии и сходства в несвязанных явлениях. А вообще мне не стоит лезть в эти дебри, я профессионально мозгами не занимаюсь.

[levgilman.livejournal.com]

Нынешний ТИ — вообще младенческий этап.
Но сколько всего и без ИИ можно автоматизировать и не делается...

[mary-spiri.livejournal.com]

Вы конечно правы, однако насчёт может и не делается, это как у Фазиля Искандера. "Любой женщине можно сказать, что при ее характере она бы могла быть по-красивее".

[dilettante74.livejournal.com]

(https://ic.pics.livejournal.com/dilettante74/91997607/14103/14103_original.png)

[mary-spiri.livejournal.com]

Типа того: связь несвязанных явлений!

[vana-ta11inn.livejournal.com]

Для начала стоит понимать, что "большие языковые модели" — это ни разу не "самообучающиеся системы". Обучение их — это отдельная очень ресурсоемкая задача, а использование уже обученной модели не предполагает ее дальнейшую модификацию.

Второе, что обычно упускают из виду пользователи таких моделей — это их принцип работы. Они не делают никакой поисковой работы, они не анализируют большие объемы данных. Все, что делает большая языковая модель — это по имеющемуся контексту выбирает наиболее вероятную следующую фразу-продолжение. Потом — добавляет выбранную фразу к предыдущему контексту и повторяет процесс. И так — до тех пор, пока либо не будет достигнут заказанный объем текста, либо пока пользователь не остановит генерацию.

Наиболее близкая иллюстрация работы таких моделей — это "поток сознания", поток ассоциаций, вызванный заданным начальным словом или фразой.

Языковые модели не умеют считать, они просто выдают цифры, часто встречающиеся в контексте с заданными пользователем. Они не проверяют релевантность выдаваемых данных — у них нет механизмов проверки (по крайней мере — пока нет).

Да, за счет огромного массива скормленных им данных этот поток сознания иногда выглядит как осмысленный текст (или программный код), но его корректность все равно нужно внимательно проверять, и для поиска ошибок все равно нужен специалист в обсуждаемом вопросе.

Чем языковые модели действительно могут помочь — так это тем, что они могут нагенерировать много вариантов текста, из которых специалист может или выбрать, или скомпилировать уже настоящий осмысленный и безошибочный текст гораздо быстрее, чем если бы он писал его сам.

[mary-spiri.livejournal.com]

Спасибо большое! Мне интуитивно так и казалось, но вы классно и кратко сформулировали.

[moscow-i-ya.livejournal.com]

Мне кажется (сорри за полный дилетантизм), что если задача имеет красивое и дорогое решение человеком, а также некрасивое и неэффективное, но дешевое решение без участия человека, то второе рано или поздно победит. Ну, или первый вариант будет действовать в столь ничтожном проценте случаев за такие огромные деньги, что на рынок труда не очень сильно будет влиять. Хотела привести примеры, но вспомнила, что об этом уже много лет назад написал А.Азимов в моей любимой повести "Профессия". В последнее время нередко ее вспоминаю.

[ignorantis.livejournal.com]

Можно ли неэффективное решение считать решением??

Даже если оно сильно дешевле, оно проблемы не решает, а значит деньги просто выбрасываются.

[cain-18.livejournal.com]

К сожалению, пока приходится иметь дело в основнпм с ЕИ и ИИ (Естественным и Искусственным Интеллектом Идиотизмом--соответственно). Когда появляется какое-либо новшество, лучшие умы администрации работают над тем, чтобы ослабить положительные эффекты и усилить отрицательные.

И это в университетае постоянно околачивающимся в конце первой двадцатки или чуть дальше в мировых рейтингах.

[unklemike.livejournal.com]

>>Не думаю, что ИИ способен к подобному анализу совершенно не связанной друг с другом информации.
Но ведь для подобного анализа следует как минимум замерять напряжение в сети до и после. В любом случае это дедукция, основанная на измерениях. Т.е. если ИИ дать кучу датчиков и заставить собирать с них информацию на протяжении недель, он выдаст куда более интересные и подробные результаты. Да и нет в этом ничего такого особенного.

>> Код свой он получил через 10 минут, причем код этот отлично работает и пакует данные
Однако деревья Хаффмана придумал именно человек. Сможет ли бот изобрести нечто подобное, если ему принципиально не давать никакой информации о теории сжатия данных? Ведь люди когда-то её с нуля на пустом месте создавали. Я думаю что нет, не сможет. Потому чтобы любые гипотезы должны подтверждаться экспериментами, а чтобы ставить эксперименты нужно обладать свободой воли. А вот как раз свободу воли ИИ никто и не предоставит. Ещё чего не хватало!

[mary-spiri.livejournal.com]

Вы конечно правы. Однако сейчас многие опасность ИИ видят в манипуляции людьми. Зачем ставить эксперименты самому, если можно сделать так, что их станут ставить для тебя люди. А манипулировать людьми крайне несложно.

Насчёт датчиков и прочего: ни у кого тогда датчиков не было (как и стабилизаторов). Нужно было выдавать научный продукт с тем, что было. Но даже и с датчиками, если бы ИИ намерил данных и установил, что дело в изменении напряжения в сети. Дальше про блюминги и Индиру Ганди ему бы датчики и данные не помогли. Тут контекст нужен, когда ты ездишь на работу по Ленинскому каждый день, а потом его перекрывают и выгоняют рабочих с флагами встречать.

[kot-kam.livejournal.com]

"По словам мужа, к тогдашнему умозаключению он пришел довольно быстро, типа не успела еще Индира Ганди уехать обратно в Индию. Не думаю, что ИИ способен к подобному анализу совершенно не связанной друг с другом информации."

Увы, есть нюанс. В сети подобных анекдотов довольно много, это вообще один из самых популярных сюжетов "байки из жизни". И обычно история включает фразу типа "Всей лабораторией головы ломали/Несколько лет это тянулось, никто не мог понять, в чем дело". То есть овер 95 процентов аналоговых сапиенсов на подобные подвиги тоже не способны (в том числе и тогда, когда это существенно важно, то есть от решения задачи многое зависит).

[mary-spiri.livejournal.com]

Как раз у мужа на работе собралась тогда компания очень продвинутых молодых людей. Они такие решения постоянно выдавали. Но конечно аналоговые сапиенсы бывают очень разными. Впрочем все похоже способны на буйные полеты фантазии, достаточно взглянуть на конспирологические теории. Каких там только цепочек не наблюдается. А важен ещё и критический взгляд на свой бред сивой кобылы в лунную ночь.

[kot-kam.livejournal.com]

И вот на самом деле в моей профессии (филология, анализ текстов, перевод) разные программы — нужнейший инструмент. Скажем, одна из моих курсовых работ, на которую ушло честные полгода, по сути на 90 процентов состояла в том, чтобы выцепить из большого текста ряд определенных конструкций (на оставшиеся десять процентов — проанализировать результаты). Сейчас бы у меня на это ушло часов шесть чистого времени, из которых четыре я бы продумывал, как оптимально составить поисковый запрос, чтобы охватить все нужные конструкции и получить минимум мусора. И куча всего еще точно так же: действия, на которые уходили месяцы, теперь делаются за минуты. Значит ли это, что без меня можно обойтись? Х-ха! Нет, это значит, что я при тех же вводных работаю на два порядка быстрее и эффективнее.

[mary-spiri.livejournal.com]

Ну да, все именно так. В биотехе то же самое. Более того, возможность эффективного решения сложных задач приводит к резкому расширению их круга. Задач делается не меньше, от того, что все решены, а больше, от расширения возможностей. И процесс идёт чуть не экспоненциально. Я один раз слушала лекцию специалиста по супер компьютерам из Интела, он много про это рассказывал. Как сначала никто не знал, для чего использовать. А потом шло взрывное использование.

[sillow23.livejournal.com]

приятно это читать.

[mary-spiri.livejournal.com]

Спасибо

[deutschevita.livejournal.com]

Спасибо вам за тему. Узнала много нового ))

[mila-gp.livejournal.com]

Спасибо большое! Так интересно читать! У Вас удивительная способность объяснять достаточно трудные научные вопросы/проблемы (для меня, например) просто и доходчиво!

[mary-spiri.livejournal.com]

Спасибо, буду стараться!

[homaaxel.livejournal.com]

У Саймака на эту тему есть прекрасный рассказ "Сила воображения", "So Bright the Vision ", написанный еще в 1956 году. Про то, что приличные литераторы зарабатывают тем, что покупают самые дорогие пишущие машинки и вставляют в них самые дорогие перфокарты с нужными элементами характеров и сюжетов. За людей литературные произведения пишут только машины, сами люди этим не занимаются.

На мой взгляд, результат работы машины за человека получился довольно убогим, но потребителям было достаточно.

[mary-spiri.livejournal.com]

А сейчас голливудские сценаристы очень всерьез боятся за свой хлеб насущный. И требуют, чтобы ИИ специально законодательно убрали из процесса. Что не помешает им самим его под шумок использовать, если захочется.

[burbilog]

Проблема ChatGPT & co в том, что люди, пообщавшись с ним, закономерно пугаются эффекта uncanny valley и начинают придумывать себе рационализации. А понять, откуда именно страх взялся, подавляющему большинству просто недоступно, это нужно либо иметь за плечами определенный бэкграунд или просто быть весьма рефлексирующим человеком. В результате мы видим, как в ряды ииборцев вливаются весьма умные и влиятельные люди, которые легко поддались страху.

А кончится это плохо, формированием религии техножрецов и, как это уже было в истории, религиозными войнами. Вон Юдковски постулирует неизбежный техноапокалипсис и призывает мочить китайцев (а чо с ними церемониться-то, там какие-то узкоглазые, а не люди), дабы избежать железной поступи ИИ, который все равно наступит. А умные люди читают это говно и говорят "дааа, он умный, оооо, в его мыслях невиданная глубина!".......

[mary-spiri.livejournal.com]

В современном мире религии формируются обычно у малообразованных, например QAnon. Так что вряд ли дойдет до технорелигии.

Осторожность с новыми технологиями не помешает. Как всегда, кто-то себе "делает хайп" на страшилках. Но есть куча серьезных людей, которые честно пытаются понять, что страшно, а что нет.

[kruglov.livejournal.com]

Пока продукт нейросетей напоминает "творчество душевнобольных". Шизофазия, погуглите. Когда ум пациента вдруг перескакивает с мысли на мысль и делает выводы по одному ему понятным аналогиям.

В клинических случаях это видно очень явно, человек либо сумасшедший, либо нет, но если проявления стёртые, нечастые, как в случае с chatGPT и иже с ним, то просто не знаешь, где подвоха ожидать. Вот вроде оно вам "складно звонит", и тут где-то в пятом абзаце — раз — и какая-то ересь, но не особо очевидная так сразу.

[mary-spiri.livejournal.com]

Дело в том, что код, который ChatGPT написал для моего напарника, вполне работает и даёт нужную ему упаковку данных. Равно как и краткое содержание, написанное для меня, оказалось вполне нормальным, хотя подрихтовать пришлось. Я бы не стала называть это творчеством душевнобольного. Вполне полезная штука.

[cain-18.livejournal.com]

Великое преимущество ИИ--на него можно свалить собственные ляпы. Вот послал я одной из секретарей емайл, а присобачить документ забыл. Она мне об этом сообщает. А я послаю документ и вместо "Сорри, виноват, склероз":

"Мой ИИ забыл приаттачить. Он будет строго наказан" :)

[ditour.livejournal.com]

Засечь эффект Ганди это как раз самая для ИИ задачка, лишь бы задающий вопрос догадался дать достаточно данных. Собственно, "интеллект" тут сводится к упрощению процесса постановки задачи, а остальное это алгоритмы, ещё лет 30-40 назад существовавшие. Только не применявшиеся так широко, в связи с дороговизной и маломощностью компьютеров.

Вообще, 95% нового в ChatGPT это возможность сформулировать задание на человеческом языке — правда, часто потом необходимо проверить точность интерпретации.

Что касается замены людей — на сегодняшний день ChatGPT это просто очень хороший "bullshit generator", не более и не менее. Специальности, которые в этом и состоят — пропаганда, сценарии для средней руки сериалов, средней же руки психотерапия — под очевидной угрозой. Все остальные в полной безопасности. Пока.

[burbilog]

Программирует оно неплохо. Вот эту утилитовину https://github.com/burbilog/iftpfm2 он написал процентов на 95 (мои действия были в основном в постановке задачи, склеивании рваного вывода и периодическом запихивании ошибок компилятора обратно в ChatGPT).

И оно в продакшне спокойно работает.

Это при том, что я Rust не знаю, от слова вообще.

К сожалению, такой размер пока на пределе, дальше оно тупо забывает предыдущий код и начинает лепить горбухи, но и так неплохо. Во всяком случае, на выходе не bullshit, а более-менее рабочий код, требующий проверки конечно.