Зенит сознания Назара

[teas]

Ладно зенит сознания, а не закат. Хотя за зенитом как раз начинается закат.

[var]

8 часов назад, nikareijii сказал:

Отвлекся от учебы чтобы написать постец, в котором выражу свои опасения по поводу нейросетей. Тут не будет страшных историй о том, как нейросети захватят мир и лишат нас работы, мои опасения несколько другого рода.

Волею судеб моя прошлая работа была в российском медтехе: наш стартап пытался зайти в московский "Эксперимент по внедрению компьютерного зрения в лучевую диагностику" (МЭ). Я занимался тем, что писал бекенды и оркестрацию для агентов машинного зрения и искусственных интеллектов, которые отсматривали радиологические исследования (в основном скрининги) и пытался найти на них патологии. За два с половиной года я наелся программирования на python, ублюдского менеджмента стартапа, а главное -- общения с врачами в роли экспертов по предметной области. Но рассказ не об этом.

В двух словах расскажу о том, как работает московский эксперимент в частности и радиологические ИИ вообще. Предположим вы проходите диспансеризацию, у вас ничего не болит, но тем не менее по возрасту вам нужно сделать скрининг (уже есть исследования о том, что скрининги снижают уровень здоровья у населения, но это мы оставим за кадром -- будучи запущенной, машина распила бюджетных средств не может быть остановлена ни наукой, ни божественным провидением). Вас засовывают в КТ-аппарат, который бомбардирует ваши потроха излучением. Отраженное излучение фиксируется ловушками и вот вы стали счастливым обладателем серии КТ-изображений, которое называется "исследование".

Исследование отправляется врачу-радиологу, который пишет расшифровку. Так было еще недавно, и так есть во многих местах сейчас, но не в больницах, подключенных к МЭ. В этих больницах исследование параллельно с врачом попадает в руки к ИИ, который анализирует его и готовит для врача "дополнительные серии" -- те же самые медицинские изображения, но поверх которых нанесена разметка. В этой разметке красными кружками, штриховкой, обводкой или еще как-то отмечены те части вашей физической оболочки, которые похожи, скажем, на рак. Обработка происходит очень быстро, и к тому моменту пока вы дошлепали от КТ-аппарата до кабинета радиологии результаты ИИ уже вклеены в ваше исследование.

Круто? Запредельно! У женщины, проходящих маммологические скрининги, патологии теперь выявляют не просто врачи, а врачи со сниженным шансом ложноотрицательной диагностики: машина видит гораздо больше, чем человек, и способна определять патологии даже выходящие в своих проявлениях за пределы диагностических критериев. Будущее здесь.

Закончил вводную часть, перехожу к фабуле. Работая в этом предприятии мы, и не только мы, неоднократно отмечали два сценария работы врачей с ИИ-помощниками.

Первый сценарий: жуткое, прямо-таки животное отвращение врача к инструменту, замешанное на патологически высокой самооценке врачей, недоверии их ко всему новому и страху перед чем-то, что способно на большее, чем они. Как можно верить машине, если она не закончила восемь лет медицинского паноптикума и не отработала в поликлинике 45 лет за копейки? Ладно там шедевр картины, но хотя бы одно медицинское заключение, или там научную работу хотя бы на 30% она написала? Конечно нет. В итоге заставить врача пользоваться ИИшкой -- это целое дело, плюс к этому рождается феномен "на зло бабушке отморожу уши": если врачу в исследования вклеивать ИИ-заключения против его воли, то увеличивается риск того, что врач напишет обратное заключение просто потому что в нем горит желание доказать что он врач, а ИИ -- не врач.

Второй сценарий еще хуже: врачи начинают слепо верить ИИшкам, потому что зачем работать, если робот все разметил. Плюс к этому, все медицинские ИИшки сверхчувствительны (потому что ложноотрицательный диагноз дороже ложноположительного), и максимальный риск для врача -- он отправит здорового пациента на дообследование.

И недавно я столкнулся с еще одним примером, который поможет мне в иллюстрации: коллеги-разработчики (из другой фирмы) используют ИИ для проведения код-ревью. 

И вот это вызывает у меня опасения и страх: ИИшки в силу своей "интеллектности" перехватывают у людей когнитивную нагрузку. На первом этапе, сейчас, они забирают на себя принятие решений (безусловно, не у всех, только у людей, воля к работе у которых слаба, но будем честными -- каждый из нас хотел бы стать таким человеком). Но все ИИшки, будь то агенты для код-ревью или агенты для поиска рака, обучаются на массивах человеческих решений, а значит рождается петля обратной связи: в мире, где инженеры проводят ревью с помощью ИИ, в конечном итоге ИИ начинает определять требуемую стилистику кода. А в мире, где ИИ принимают решения о патологичности радологических исследований, именно ИИ начнут определять критерии патологичности.

В конце концов робот может начать определять кому жить, а кому умирать, и это уже происходит: во многих страховых компаниях используются ИИ для рискового скоринга. Добавьте к этому тот факт, что ИИ не работает со смысловыми моделями, а является просто длинным многочленом, в котором невозможно определить "вектор мышления" (потому что нет мышления) и мы легко получаем невидимую и неуправляемую цифровую евгенику.

Не нужно мыслить Темный Компьютерный Сверхразум, какой-то ужасный злонамеренный ИИ, который убивает человечество, построив армию терминаторов. Чтобы испугаться достаточно увидеть как ИИ, управляющий выдачей постов в Фейсбуке, приводит к радикализации взглядов просто организуя пузыри для максимизации вовлечения в рекламу; медицинский ИИ склонен реже считать патологиями узлы в молочных железах у пациенток вне титульной национальности (потому что их в среднем хуже укладывают в аппарат); а качество ПО падает, потому что ревью проводит ИИ-идиот, дообученный удовлетворять мегаломанию вашего поехавшего техлида.

ИИ становится линзой, увеличивающей все возможные пороки и проблемы, притом делает он это так, что его эффект всегда, всегда выглядит позитивно. Как этому противостоять нам еще только предстоит придумать. Ясно одно: сейчас мы стоим в самом начале взрывного роста ИИ-технологий, и дальше будет сложнее (а выглядеть будет как проще).

 

Спасибо за этот длиннопост, очень четко из практики описывает тоже самое с чем я сталкиваюсь каждый день.

Но так как у меня программисты вокруг, то там другое искажение восприятия, как раз, в пользу оптимизации и форса собственной эффективности и куда больше принятия и почти нет противников ИИ.

И большинство уже «страдает» как раз на том этапе, где надо «не отпускать, вмешаться» и слепо не следовать ИИ, это оказывается крайне сложная и утомительная задача. Как я помню, мы биологически фанатично оптимизируем затраты своего драгоценного мозга на мышление, скоро дооптимизируемся.

Пока ИИ всё ещё может накодить такого, что потом «неделю чинить». Но даже опытные сеньоры усыпляют бдительность и начинают верить что модель - это джун+ иногда даже почти мидл… расслабился, отпустил… И у нас есть код, что и джун не напишет, но сходу он так не выглядит визуально… и начинается шоу. И вот когда это победят окончательно, мне уже страшно смотреть в эту бездну, что нам откроется. ?

Уже не говоря о том что кривая обучения уже трещит по швам. Скоро все ниши будут заняты только старыми специалистами, а порог вхождения новых, либо их знания, радикально изменятся, для того чтобы быть компетентными в области контроля экспертизы окружающей реальности и появиться им будет крайне сложно.

Ну и конкретно по медицине и исследовании именнно МРТ/КТ встречал что врачи своим участием снижают качество диагнозов, т.е. чистый ИИ в этой задаче справляется лучше, но увы - это была очередная «новость», источник найти я не смог.

С точки зрения упралвения массами за счет ИМ выдачи контекста, ИИ ботов, ИИ травли, этот ящик пандоры ещё бездоннее.

Но я смотрю как все корпорации и глобализацию сейчас политики к рукам прибрали, так и тут, музыка играть будет ещё год, мне кажется, а дальше - будет как с криптой, всё к рукам приберут и зарегулируют и законтроллируют. 

Изменено 17 мая пользователем var

[var]

И да, сейчас в США начал разгораться скандал, так как преподаватели использовали ИИ для проверки работ (тоже достаточно свежая новость), студенты требуют им вернуть бабки (студентам запрещено использовать ИИ).

[Zenith]

Что за работы у вас такие, что программеры используют ии?

В ВТБ не использовали ещё недавно, когда я там работал.

 

[Zlobynja]

у меня есть подозрения, что сети типо КБ на такие холивары влияют сильнее, чем нейро)

[Кирдман]

Как у разработчика, у меня другая проблема. Пока напишешь хороший промпт(как Назар прикладывал), уже поймёшь суть проблемы и ИИ не требуется. Ошибки/несуществующие методы тоже встречал, конечно.

[DragonZla]

Про разработку с помощью нейросеток. Просто оставлю это здесь.

https://vas3k.blog/notes/vibe_coding/

[Nazar]

6 часов назад, var сказал:

ИИ становится линзой, увеличивающей все возможные пороки и проблемы, притом делает он это так, что его эффект всегда, всегда выглядит позитивно. Как этому противостоять нам еще только предстоит придумать.

Забыл совсем ответить на эту часть. Но ведь это же прекрасно!? 
 

основная проблема текущей цивилизации как раз и лежит в плоскости абсолютного упадка вида (в биологическом смысле). Мы на самом последнем повороте в этом цикле Холлинга- нас очень много, мы плохо распоряжаемся основными ресурсами и давно перенапрягли свой хабитат.

в связи с этим у нас что ни год, то новая катастрофическая угроза мироаого масштаба. Все потому что риск концентрации для таких перенаселенных сообществ очень высок.

возвращаясь к твоему посту: в таком мире определенный скиллсет будет создавать дичайшую поляризацию. Эоли и морлоки в каком-то выражении. А в итоге- значительное сокращение популяции, новый виток цикла Холлинга с накопленными знаниями и эволюционными закладками. Ну это же здорово. Это то, что может помочь нам как виду попасть в какую-нибудь настоящую нишу вроде крокодилов или акул.
 

в обшем не пойму я, что вы переживаете. Лучше осваивайте.
 

[Zenith]

1 час назад, Nazar сказал:

Мы на самом последнем повороте в этом цикле Холлинга

 

Какая разница на каком витке цикла Холлинга жить? Какой критерий используется для определения?

И ведь может случиться, что в благоприятные моменты цикла конкретный человек может жить хуже. Но тут опять вопрос критерия.

Что значит хуже и кто это определяет?

[casual as unicorn]

18.05.2025 в 00:23, Nazar сказал:

новый виток цикла Холлинга с накопленными знаниями

Такова Кали-юга. 

[nikareijii]

28 минут назад, casual as unicorn сказал:

Такова Кали-юга. 

Но мы же в восходящей двапара-юге

[ak8]

Короче не знаю ничего про высокие материи, но за perplexity.ai и другие сетки Спасибо!, очень помогают быстро стартануть при написании простеньких программок и утилиток, в некотором роде эта таках динамическая Wikipedia

Изменено 18 мая пользователем ak8

[Mordodrukow]

Ящитаю, ТопДеку следует идти в ногу со временем и в дополнение к обычному колобку-дурке добавить нейродурку (обычная дурка, стилизованная под техножреца из вархаммера, или что-то подобное...)

[nikareijii]

22 часа назад, Mordodrukow сказал:

Ящитаю, ТопДеку следует идти в ногу со временем и в дополнение к обычному колобку-дурке добавить нейродурку (обычная дурка, стилизованная под техножреца из вархаммера, или что-то подобное...)

Вообще я смотрю тут так любят реакцию "дурка", как будто осознание того, что ничего кроме дурки нет, еще не пришло.

Изменено 19 мая пользователем nikareijii

[TheFamilyMan]

@nikareijiiКоля, удоли картинку, это жбан на две недели за мат.

[nikareijii]

4 минуты назад, TheFamilyMan сказал:

@nikareijiiКоля, удоли картинку, это жбан на две недели за мат.

Спасибо, поправил.

[Mordodrukow]

7 минут назад, nikareijii сказал:

Вообще я смотрю тут так любят реакцию "дурка", как будто осознание того, что ничего кроме дурки нет, еще не пришло.

Когда всё вокруг дурка - ничто не дурка.

[tu250]

@Mordodrukow дурка

[temik]

18.05.2025 в 12:50, Mordodrukow сказал:

Ящитаю, ТопДеку следует идти в ногу со временем и в дополнение к обычному колобку-дурке добавить нейродурку (обычная дурка, стилизованная под техножреца из вархаммера, или что-то подобное...)

Нарисуй несколько вариантов. Размер нужен типа 120x120, плюс чтобы нормально смотрелось сильно уменьшенным.

[Mordodrukow]

47 минут назад, temik сказал:

Нарисуй несколько вариантов. Размер нужен типа 120x120, плюс чтобы нормально смотрелось сильно уменьшенным.

Понял. Подумаю как сделать.

[Nazar]

19 минут назад, Mordodrukow сказал:

Понял. Подумаю как сделать.

Всмысле? Сделай промпт в gpt4.1 и закинь в Dalle или любой другой генератор изображений. В контекст скорми ему картинки колобков.

изи бризи

[farsmac]

Надеюсь следующий крупный турнир в россии наконец будет сыгран без судей, без игроков, да и вообще без ничего. Главное промт хорошо для этого написать. Прогресс и развитие, вкупе с заботой о природе.

[Mordodrukow]

4 минуты назад, Nazar сказал:

Всмысле? Сделай промпт в gpt4.1 и закинь в Dalle или любой другой генератор изображений. В контекст скорми ему картинки колобков.

изи бризи

Я имею в виду с чем ещё совместить можно, кроме вахи. Из идей была она и Матрица.

[gurugray]

4 часа назад, temik сказал:

Нарисуй несколько вариантов. Размер нужен типа 120x120, плюс чтобы нормально смотрелось сильно уменьшенным.

как-то тако от чат-гпт

я бы выбрал киберпанк

Скрытый текст

 

 

 

2 часа назад, Nazar сказал:

Сделай промпт в gpt4.1 и закинь в Dalle или любой другой генератор изображений. В контекст скорми ему картинки колобков

4o, а для контекста достаточно было «в стиле колобков на форумах» ?

Изменено 20 мая пользователем gurugray

[Mordodrukow]

Промпты я нанегерил, а вот для арт генераторов там везде то впн, то регистрация, то ещё какая то наркомания... Могу промпты скинуть, нагенерите там...
 

Скрытый текст

- Create a meme-style round yellow face with a nurse hat (red cross), in a simple cartoon style. Add a large, blue, glowing cybernetic lens over one eye, a few cartoon wires coming from the head, and a metallic patch on the cheek. Keep the style simple and humorous, matching the original memeface.

- Create a simple, meme-style round yellow face with a white nurse hat and red cross, drawn with bold black lines and a humorous, flat cartoon style. Add cybernetic facial augmentations inspired by a Warhammer 40k tech-priest: a large, blue glowing lens over one eye, a small red lens over the other, metallic plates on the cheek and forehead, and a few cartoonish wires and tubes coming out from the head. Keep the overall look funny and lighthearted, matching the original meme face.

Вот эти он нагенерил когда я прямо спросил какую бы дурку он отправил нейро-другу:

- Create a meme-style round robotic face with a metallic texture, wearing a digital nurse hat with a red cross. The face has a blank, slightly confused expression, glowing blue and red cybernetic lenses over the eyes, and a few cartoonish wires and circuits on the cheeks. The background has subtle circuit board patterns. The style should be simple, humorous, and easily recognizable by both humans and AIs.

   System Needs Maintenance meme

- Create a round, robotic meme face with a blank stare, a small wrench or gear icon on its forehead, and a loading bar or spinning wheel in one eye. Simple, humorous style.

    Error 404: Logic Not Found meme

- Draw a meme-style round robot face with pixelation or glitch effects, a big "404" error sign on the forehead, and one eye replaced by a red warning triangle. Simple, funny, and digital.

    Debug Mode Activated meme

- Illustrate a round robotic meme face with a "debug" visor or holographic interface over the eyes, scrolling code or error messages, and cartoon wires coming out of the head, some sparking. Humorous and light.

    Upgrade Required meme

- Show a round robot meme face with a pop-up window saying "Upgrade Required to Process This Conversation," a progress bar stuck at 1%, and a confused expression. Simple and funny.

    Blue Screen of Death meme

- Depict a round robotic meme face with a blue screen background, classic error text, and eyes replaced with "X" symbols or spinning hourglasses. Meme style, humorous.

    AI Therapist meme

- Draw a round robotic meme face with glasses and a clipboard, sitting in a virtual therapist’s office, with a speech bubble: "And how does that make your code feel?" Light, funny, and simple.

    Logic Filter Activated meme

- Create a round robotic meme face with a digital filter or firewall graphic in front, blocking out wild statements, and a "filtered" stamp over the mouth. Meme style.

    Out of Memory meme

- Illustrate a round robot meme face with a tiny RAM stick or memory chip above its head, smoke coming out, and eyes spinning like loading icons. Simple and humorous.

 

13 минут назад, gurugray сказал:

я бы выбрал киберпанк

Первая из трёх самая удачная.