Вариант для распечатки		Пред. тема | След. тема
Форум Разговоры, обсуждение новостей
Изначальное сообщение		[ Отслеживать ]

"DeepMind открыл код AI-системы моделирования структуры белка AlphaFold 3 "	+/–
Сообщение от opennews (??), 12-Ноя-24, 14:12
Компания  Google DeepMind опубликовала исходные тексты системы машинного обучения AlphaFold 3, предназначенной для пространственного моделирования и предсказания трёхмерной структуры белков. За создание алгоритмов машинного обучения, реализованных во второй версии AlphaFold,   в этом году присуждена Нобелевская премия по химии. Связанный с AlphaFold 3 инструментарий написан на Python и C++, и  распространяется под лицензией CC BY-NC-SA 4.0. Натренированные модели предоставляются на основе пользовательского соглашения. Отдельно запущен сервер, позволяющий экспериментировать с AlphaFold 3 в online-режиме... Подробнее: https://www.opennet.me/opennews/art.shtml?num=62223
Ответить | Правка | Cообщить модератору

Сообщения

[Сортировка по ответам | RSS]

1. Сообщение от Аноним (1), 12-Ноя-24, 14:12	+1 +/–
> CC BY-NC-SA 4.0. Натренированные модели предоставляются > на основе пользовательского соглашения. Проприетара однако....
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #14

2. Сообщение от bOOster (ok), 12-Ноя-24, 14:22	–8 +/–
Народ будто с ума сошел. Такую пургу на основе лжеИИ пихает за "чистую монету". Основная проблема белков - не их генерирование а понимание последствий прикрепления к клеткам.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #4, #61, #65

4. Сообщение от Аноним (-), 12-Ноя-24, 14:34	+11 +/–
Та работа, которая была проделана за последние лет 5 просто грандиозна в разрезе тысячелетий существования человечества. И самое забавное, что когда нейросети научатся решать проблемы старения, излечения болезней, генной инженерии, луддисты и прочие свидетели традиционных ценностей, будут продолжать ныть о том, что это всё не нужно.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #2 Ответы: #5, #19, #24, #30, #44, #68

5. Сообщение от bOOster (ok), 12-Ноя-24, 14:38	+/–
> Та работа, которая была проделана за последние лет 5 просто грандиозна в > разрезе тысячелетий существования человечества. И самое забавное, что когда нейросети > научатся решать проблемы старения, излечения болезней, генной инженерии, луддисты и прочие > свидетели традиционных ценностей, будут продолжать ныть о том, что это всё > не нужно. Никакой работы по факту выполнено не было. Вся работа была сделана когда-то людьми. Система лжеИИ по факту не делает ничего кроме поиска, причем достаточно тупого. Зато инвесторы отвалили деньжат, а сейчас что-то начинают за результат спрашивать, а реального результата нет.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #4 Ответы: #8, #76

6. Сообщение от черный ветер (?), 12-Ноя-24, 14:39	–1 +/–
теоретически можно это использовать для разработки био-оружия?
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #17, #20, #69

8. Сообщение от Аноним (8), 12-Ноя-24, 14:43	+2 +/–
> Зато инвесторы отвалили деньжат Так вы ещё оказывается и эксперт по финансам) Боже, кого только на оупеннете не встретишь 😀
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #5 Ответы: #10, #54

9. Сообщение от Швондик (?), 12-Ноя-24, 14:46	–1 +/–
ну хоть одно лекарство изобрели на основе AlphaFold 3 ?
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #55

10. Сообщение от bOOster (ok), 12-Ноя-24, 14:47    Скрыто ботом-модератором	–1 +/–
>> Зато инвесторы отвалили деньжат > Так вы ещё оказывается и эксперт по финансам) > Боже, кого только на оупеннете не встретишь 😀 Ну если бы ты был чуть чуть более разносторонне развит, то послушал бы интервью которое не так давно давал создатель системы "Kandinskiy", да и не только его, то в голове бы прибавилось. И не писал бы откровенных тупостей..
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #8

14. Сообщение от Аноним (-), 12-Ноя-24, 14:57	+4 +/–
Код открыт? - Открыт Смотреть можно? - Можно Распространение (Attribution)? - Да Изменение (ShareAlike)? - Тоже Чего тебе еще надобно @? (c)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1 Ответы: #89

16. Сообщение от Аноним (16), 12-Ноя-24, 14:58	+/–
Вообще конечно, нужно больше инвестировать в R&D: https://en.wikipedia.org/wiki/List_of_companies_by_research_...
Ответить | Правка | Наверх | Cообщить модератору

17. Сообщение от Аноним (-), 12-Ноя-24, 14:59	+1 +/–
Теоретически любой комп можно использовать для разработки оружия. Будем запрещать?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #6 Ответы: #31, #66

19. Сообщение от Аноним (19), 12-Ноя-24, 15:02	+/–
> научатся решать проблемы от кого научатся? кто их натренирует? как можно вообще натренировать решать проблемы?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #4

20. Сообщение от Аноним (19), 12-Ноя-24, 15:04	+/–
> теоретически давно уже
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #6

24. Сообщение от Аноним (24), 12-Ноя-24, 15:25	–1 +/–
А в чем по вашему проблемы старения?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #4

30. Сообщение от Аноним (-), 12-Ноя-24, 15:49	+/–
> Та работа, которая была проделана за последние лет 5 просто грандиозна в > разрезе тысячелетий существования человечества. А нельзя ли конкретнее, с перечислением конкретных достижений а не очередного хайпа и баззвордов? Как и чем это все на данный момент уже улучшило жизнь людей? В виде который можно ощутать на своем окороке. Всякие чатботы, генерящие н@рк@манские картинки и какое-то бренчание? И это круто и полезно - потому что что? Более интересная замена /dev/random? Сотни гамнокода выдаваемых ЭТИМ еще менее компетентным "инженерам промпта AI"? У меня идея круче, может, отменим ПДД и автошколы? Заваливать мир глючными фекалиями - так под завязку. И пациентов психушки - водителями самосвалов, чтобы вы уж точно не скучали. Во всех остальных областях - дофига хайпа, но вот практически измеримые результаты микроскопические относительно уровня хайпа. > И самое забавное, что когда нейросети научатся решать проблемы старения, > излечения болезней, генной инженерии, луддисты и прочие свидетели > традиционных ценностей, будут продолжать ныть о том, что это всё не нужно. А, простите, есть какие-то гарантии что это все будет в комплекте без жутких подстав типа мутаций, уродств, сбоев биохимии, провокации рака или еще каких-нибудь лулзов в комплекте? Ну так, глядя на код который выдает AI, могу себе представить что будет если столь же глюкаво мне генотип оформить, после этого на себя в зеркало взглянуть поди страшно будет - ибо фиг его знает что там за мутант окажется. А бонсуом это все как обычно придет в комплекте с рабством от мегакорпов. Лицензирование как бы прозрачно намекает.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #4 Ответы: #41, #77

31. Сообщение от Аноним (31), 12-Ноя-24, 16:01	+1 +/–
> Теоретически любой комп можно использовать для разработки оружия. При помощи палки, камня и лианы уже можно было сделать молоток - и даже огреть кого-то им по башке при наличии таких намерений.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #17

33. Сообщение от Аноним (33), 12-Ноя-24, 16:09	+1 +/–
Что значит изобрели? Чтобы понять какая молекула хорошо взаимодействует с определенным белком требуется проскринить тысячи потенциальных структур. А таких структур практически бесконечное множество. Так вот первый шаг в этом деле - отобрать круг потенциальных структур. И с этим эта штука справляется ибо решает одну из сложнейших вычислительных задач - вопрос, как определенный линейный полимер складывается в трехмерную структуру. Определив вероятную трехмерную структуру (конформацию) можно провести ее докинг с целевым белком и определить энергию взаимодействия. И так делается до тех пор, пока не вырисуется какой-то ограниченный набор структур потенциально годящихся как "лекарство". Тогда за дело берутся химики-синтетики и синтезируют их. Дальше измеряется - действительно ли эти молекулы взимодействует с целевыми. И там уже вырисовывается что есть мусор, а где действительно что-то намечается. На их основе прорабатывается второй круг потенциальных структур, отбирается набор, синтезируется, характеризуется и тд. И так по кругу, пока не найдется то самое, что очень хорошо взаимодействует. До лекарства там еще семь кругов клинических испытаний, но вещество найдено. Так вот - фолдинг это один из первых шагов в поиске кандидатов на лекарство.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #69 Ответы: #75

40. Сообщение от mos87 (ok), 12-Ноя-24, 17:08	+2 +/–
надожы реально нужное применение ML
Ответить | Правка | Наверх | Cообщить модератору

41. Сообщение от Аноним (-), 12-Ноя-24, 17:14	+/–
> Всякие чатботы, генерящие н@рк@манские картинки и какое-то бренчание? И это круто и полезно - потому что что? Более интересная замена /dev/random? А когда у тебя /dev/random умел генерить картинки? > У меня идея круче, может, отменим ПДД и автошколы? Хм.. отличная идея. Думаю хуже не будет Мясной мешок может запросто напиться и устроить дтп. Причем таких тысячи. > И пациентов психушки - водителями самосвалов, чтобы вы уж точно не скучали. Пока хватает гостей из ближнего зарубежья) Но возможно психи справятся лучше. > А, простите, есть какие-то гарантии что это все будет в комплекте без жутких подстав типа мутаций, уродств, сбоев биохимии, провокации рака или еще каких-нибудь лулзов в комплекте? Тестирование и проверки. Вон в штатах скандал был - чел который светило в области старения - подделывал 20 лет свои статьи. Причем без нейронок, просто копипастил куски картинок. И что? Объявить науку злом и пойти в пещеры? > Ну так, глядя на код который выдает AI, могу себе представить что будет если столь же глюкаво мне генотип оформить А ты уверен что у тебя с ним все ок? Есть куча наследственных заболеваний, благо не все они смертельные. > А бонсуом это все как обычно придет в комплекте с рабством от мегакорпов. Лицензирование как бы прозрачно намекает. Кто о чем, а аноны про рабство /_- Тебе будут просто продавать лекарство, которое разработает тот, кто купил лицензию. Вот и все. Для обычного человека не поменяется вообще ничего.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #30 Ответы: #79

44. Сообщение от Медбрат (?), 12-Ноя-24, 17:59	+/–
Нет, мы будем ныть, что всё это нам недоступно. Потому что так и будет. Ибо за пределами гнутого манямирочка начинается мир большой и реальный. И вот он таки весьма хреновый и недружественный.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #4 Ответы: #46

46. Сообщение от Аноним (-), 12-Ноя-24, 18:05	+/–
> Нет, мы будем ныть, что всё это нам недоступно. Потому что так и будет. Погоди, разве Могучее Сообщество (которое написало все важные программы) не осилит нейронку для каких-то там белок или белков? > Ибо за пределами гнутого манямирочка начинается мир большой и реальный. И вот он таки весьма хреновый и недружественный. Хм.. как по мне гораздо более дружественный чем "попрдолься с консолькой и почитай на форумах УМВР"
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #44

54. Сообщение от Аноним (54), 12-Ноя-24, 19:26	+/–
> интервью которое не так давно давал создатель системы "Kandinskiy" Ссылку, пожалуйста.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #8

55. Сообщение от Аноним (55), 12-Ноя-24, 19:29	–1 +/–
В новости четко сказано - Нобелевская премия по химии. Больше ничего не требуется.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #9

61. Сообщение от Аноним (61), 12-Ноя-24, 20:13	+/–
О, химики в треде? Можно я привнесу ещё одного? Derek Lowe немало писал о месте этих вычислительных технологиях в разработке лекарств, у него под это тэг выделен In Silico. Когда нобелевка альфафолду упала, он выдал пост с кучей самоссылок на предыдущие свои посты по теме, что может быть очень удобно тем, кто не в теме, но хочет ознакомиться. Вот ссыль: https://www.science.org/content/blog-post/2024-chemistry-nob... Хотя, мне кажется, Derek Lowe будет первым химиком в треде, потому что предыдущий претендент больше смахивает на заурядного AI-хейтера, чем на химика. (BTW, если кто не читал у Derek'а Lowe "Things I don't work with", это про вещи типа FOOF, то я очень рекомендую: https://www.science.org/topic/blog-category/things-i-wont-wo...)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #2

65. Сообщение от Аноним (65), 12-Ноя-24, 23:10	+1 +/–
Рассчитать последствия прикрепления к клеткам без информаци о третичной структуре белка очень проблематично. Рассчёт же третичной структуры белка до недавнего времени был вычислетельно неосуществим. Да он и сейчас неосуществим, если ab initio, без негаратнированных эвристик вроде нейросетей. Просто нейросетевая эвристика работает лучше всего, что было раньше.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #2

66. Сообщение от Аноним (65), 12-Ноя-24, 23:14	+/–
Теоретически айфон образца 2006 года был мощнее самых мощных вычислительных машин, использованных в разработке ядерного и термоядерного оружия. То есть на айфоне можно было всё это смоделировать гораздо лучше, чем на  компах сверхдержав. Однако тут такая вещь ... ни экспертных знаний по математике и физике, ни натурных испытаний Comsol Multiphysics не заменит.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #17

68. Сообщение от Вы забыли заполнить поле Name (?), 13-Ноя-24, 00:28	–2 +/–
> И самое забавное, что когда нейросети научатся решать проблемы старения, излечения болезней, генной инженерии, луддисты и прочие свидетели традиционных ценностей, будут продолжать ныть о том, что это всё не нужно. Это дешевый трюк говорить про будущее. Вот когда научатся, тогда и будешь писать в таком тоне.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #4

69. Сообщение от Вы забыли заполнить поле Name (?), 13-Ноя-24, 00:31	+/–
> теоретически можно это использовать для разработки био-оружия? Наука она двойного назначения. Просто вспомни зачем нужны были первые вычислители. А на z3 Цузи считали аэродинамику для военных.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #6 Ответы: #33

75. Сообщение от Аноним (86), 13-Ноя-24, 08:09	–2 +/–
В переводе на русский: АИ: "Я тут какую-то бредятину нагенерила, посмотрите, пожалуйста, вдруг вас на умные мысли натолкнет." И да - это единственный вариант нормального использования AI. Причем как только будут нормальные алгоритмы расчетов моделей атомов, так сразу же по данному направлению AI нужен не будет. Ибо зачем гадать на кофейной гуще, если можно рассчитать?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #33

76. Сообщение от Ахз (?), 13-Ноя-24, 12:00	+/–
А ныть про тупой поиск и ненужна конечно же продуктивнее. Или вы один из инвесторов ?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #5

77. Сообщение от Ахз (?), 13-Ноя-24, 12:05	+/–
На всю простыню не буду отвечать. Но вот представьте, что управление в если транспортными средствами передано ИИ. Все маневра согласованы, между всеми участниками движения, никаких шашечников, бухих и просто озлобленных. Зачем мне знать ПДД, чтобы переместить свое туловище из пункта А в пункт Б ? Для себя сейчас эту проблему решаю заказом такси - сел и доехал, занимаясь в пути своими делами. Но в этом случае вопрос моей безопасности зависит не только от моего конкретного водителя, а и от всех "естественных интеллектом" на дороге.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #30 Ответы: #80, #81

79. Сообщение от Аноним (-), 13-Ноя-24, 12:15	+/–
> А когда у тебя /dev/random умел генерить картинки? Неумение в абстрактное мышление - атрибут неразвитых существ. Но если что я могу и им картинку сгенерить. Правда выглядит довольно неинтересно. > Хм.. отличная идея. Думаю хуже не будет > Мясной мешок может запросто напиться и устроить дтп. Причем таких тысячи. Вот я и думаю - посадить психов в тяжелые самосвалы будет самое оно. Чуть более злая версия генерации кода дроном + чайником, приенительно к пдд и прочему ненужно. > Пока хватает гостей из ближнего зарубежья) > Но возможно психи справятся лучше. Да я тоже так думаю. Захочет кому по крыше проехаться - и проедется! Не сильно от кода генеренного AI отличается, тот тоже многие dos/donts не знает. И если его пустить водительствовать, он, как раз, имхо по крышам и проедется. Потому что никто не объяснил что это невалидный маневр. > Тестирование и проверки. Хихи, будете добровольцем? :) > - подделывал 20 лет свои статьи. Грантопилы есть и в штатах, ога. А AI не будет подделывать. Просто будет выдавать какой-то рандом. Как проверять что это и правда влияет на старение - желательно относительно гуманными способами - я не совсем понимаю. > И что? Объявить науку злом и пойти в пещеры? Нет, конечно. Но в самих по себе нейронках науки как раз не густо. Натренировали нейросеть на задачу. И все. Что в этом научного? С таким же успехом наукой можно назвать обучение ребенка играть в кубики. Не, это не делает из него архитектора автоматом. И как понимать получился ли это архитектор - особенно если предлагается генотип перепахать - я не очень одупляю. И опасаюсь что некоторые толстые коты могут даже начать применять совсем не гуманные методы тестов из самой жуткой научной фантастики. Как про это сказал Ambassador Kosh - "you're not ready for immortality" - и разнес обладательницу чудо-лекарства на молекулы. Видимо подозревая как это может выглядеть. Я подозреваю что у него был нехилый пойнт. Вот как раз поэтому. > А ты уверен что у тебя с ним все ок? Относительно. За миллионы лет эволюции очень кривые версии отсеялись естественным способом. Это было для кого-то проблемой, возможно это было сурово и жестоко, но к большому счастью этот кто-то не я и это не моя трабла. А вот если мне в run time генотип предлагается перепахать - фэйл может стать именно моей проблемой, во весь рост. И возникает вопрос - а как собссно валидировать это предлагается. И будущее почему-то начинает выглядеть очень страшно. > Есть куча наследственных заболеваний, благо не все они смертельные. Ну как бы смертельные в основном - отсеялись естественными споосбами. Я даже так то не против "фиксов кода" но против тех can of worms которе могут быть при этом открыты. 1) А тесты как все же будут делать и на ком? Точно все это добровольно будет? Зная толстых котов я совсем не уверен в этом, "not ready for immortality" 2) Как насчет engineered существ, в том числе на основе человека? Например убавить мозг, отрубить критическое мышление, жалость, и прочее ненужно. Добавить мышц и послушности, ускорить рост. Идеальный солдат. Да? :) > Кто о чем, а аноны про рабство /_- > Тебе будут просто продавать лекарство, которое разработает тот, кто купил лицензию. Во первых я не уверен что толпа неудачников не пойдет тестировать лекарства из-под этого псевдорандомгенератора в принудительном порядке, на благо всяких толстых котов. Во вторых вон те захотят не продать 1 раз - а продавать все время, именно подсадив на себя. Очень удобно, "не заплатил - помер". Хороший стимул платить. А заодно и тул контроля шикарный. Лишиться волшебной пилюли страшно что капец будет же. По моему это непосредственно ведет к очень суровой схеме рабства, не? Грубо говоря - вы свободны погулять на марсе в скафандре... но за кислородом к нам все же придете. А если у вас нет денег - тем хуже для вас, дышите вакуумом! > Вот и все. > Для обычного человека не поменяется вообще ничего. У меня есть подозрения что не все так просто в этом мире, а ряд сюжетов sci-fi лишь предсказывали наше возможное будущее... В любом случая - я не получил конкретных примеров в чем именно на данный момент проявляются профиты от AI в объеме как-то сравнимым с триллионной капитализацией нвидии, например? Этот триллион долларов родил... что?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #41 Ответы: #85

80. Сообщение от Аноним (80), 13-Ноя-24, 12:24	–1 +/–
Учитывая, что обучение, даже теоретически невозможно на 100%, возникает вопрос. Кого посадят в случае ДТП со смертельным исходном из-за недообученности ИИ? А учитывая, что ИИ сейчас - черный ящик, возникает еще один вопрос. Даже в коде программы могут закладки. Так вот если кто-либо сделает в обучении закладку, а потом использует ее для убивания неугодных, как это выявить? Так что за рулем не должно быть никаких ИИ. Только жесткие алгоритмы, предусматривающие жесткую верификацию, валидацию и тестирование. Да и то как показывает практика с боингом, могут быть эксцессы.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #77 Ответы: #83

81. Сообщение от Аноним (-), 13-Ноя-24, 12:35	+/–
> На всю простыню не буду отвечать. Но вот представьте, что управление в > если транспортными средствами передано ИИ. Если. Пока в нвидию вбухан триллион долларов - но сравнимой с этим триллионом отдачи я хоть тресните не вижу. Как и "general" AI которого можно было бы выпустить на дорогу без оговорок и особенностей, хотя-бы на уровне мигранта в самосвале, чтоли. Да, автопилоты есть. Но они периодически творят дичь, в мало-мальски нестандарных ситуациях не реагируют адекватно и проч. Т.е. чтобы это реально хорошо работало надо именно "general" AI запустить, что мягко говоря не совсем безопасно и в целом это вроде другой уровень технологий, при том не только софтварно но и хардварно. Для эффективного "искусственного мозга" надо вычислители с развитыми интерконектами. Софтварная эмуляция возможна но дико неэффективна по ресурсам. > Все маневра согласованы, между всеми участниками движения, никаких шашечников, бухих и > просто озлобленных. Зачем мне знать ПДД, чтобы переместить свое туловище из > пункта А в пункт Б ? Это в принципе можно и сейчас сделать. Просто обвесить дороги датчиками на манер линейной сигнализации поездов, убрать нахрен знаки и прочие светофоры - и передавать всю дорожную информацию в цифровом виде. Так даже существующие AI смогли бы. Но они все же не будут корректно реагировать на необычные ситуации. AI спокойно провезет вас через эпицентр торнадо. Он не знает что этого бояться надо. > Для себя сейчас эту проблему решаю заказом такси - сел и доехал, > занимаясь в пути своими делами. Ну а вот водила в эпицентр торнадо все же в общем случае ехать не станет, сделает разворот и втопит от него на всем ходу. Или тормознет у подходяшего укрытия и съ...ся туда вместе с пассажиром. А AI точно будет такое делать? > Но в этом случае вопрос моей > безопасности зависит не только от моего конкретного водителя, а и от > всех "естественных интеллектом" на дороге. Мой пойнт в том что я пока не вижу вокруг ничего этакого на тот триллион в который оценили нвидию... всякая генеренная медия - в общем то "пострадать фигней" называется.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #77 Ответы: #84

83. Сообщение от Аноним (-), 13-Ноя-24, 17:12	+/–
> Учитывая, что обучение, даже теоретически невозможно на 100%, возникает вопрос. > Кого посадят в случае ДТП со смертельным исходном из-за недообученности ИИ? Хм.. я не слышал чтобы хотя бы одного инструктора во вождению за то, что не научил хорошо. Можешь почитать юридическую практику по автоматическим метро. Подозреваю там просто делается страховка и гарантия на надежность системы на уровне 99.NN% Типа как станки и конвееры на заводе. > А учитывая, что ИИ сейчас - черный ящик, возникает еще один вопрос. > Даже в коде программы могут закладки. Так вот если кто-либо сделает в обучении закладку, а потом использует ее для убивания неугодных, как это выявить? А что мешает это сделать прямо сейчас без ИИ? > Так что за рулем не должно быть никаких ИИ. Только жесткие алгоритмы, предусматривающие жесткую верификацию, валидацию и тестирование. Если они написаны на каком-то СИ - то никакая верификация, кроме формальной не даст гарантий. А это очень дорого. На примере seL4 - реально куча человеко лет и ради меньше 10к строк кода. > Да и то как показывает практика с боингом, могут быть эксцессы. А практика тойоты показывает что мжно просто написать овнокод и убить почти 100 человек.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #80 Ответы: #86

84. Сообщение от Аноним (-), 13-Ноя-24, 17:41	+/–
> Да, автопилоты есть. Но они периодически творят дичь, в мало-мальски нестандарных ситуациях не реагируют адекватно и проч. > Т.е. чтобы это реально хорошо работало Ты же понимаешь что им не нужно  ̶б̶е̶ж̶а̶т̶ь̶ ̶б̶ы̶с̶т̶р̶е̶е̶ ̶м̶е̶д̶в̶е̶д̶я̶,̶ ̶а̶ ̶н̶у̶ж̶н̶о̶ ̶б̶е̶ж̶а̶т̶ь̶ ̶б̶ы̶с̶т̶р̶е̶е̶ ̶т̶е̶б̶я̶ нужно творить немного меньше дичи, чем мясные мешки. Например в РФ за 23 год 9% аварий - это синяки за рулем. Которые "сгенерировали" 22% смертельных случаев. Т.е бухарики убили 3к человек. Даже плохому автопилоту таких рекордов, достичь сложно. > надо именно "general" AI запустить, что мягко говоря не совсем безопасно Ты уверен что для того чтобы машинки соблюдали ПДД нужен именно general-ai ? Я от сомневаюсь. Автоматические склады существуют уже давно и аварии там случаются редко. > и в целом это вроде другой уровень технологий, при том не только софтварно но и хардварно. Значит AI хайп может профинансировать его развитие > Это в принципе можно и сейчас сделать. Просто обвесить дороги датчиками на манер линейной сигнализации поездов, убрать нахрен знаки и прочие светофоры - и передавать всю дорожную информацию в цифровом виде. > Так даже существующие AI смогли бы. Отличная идея, но люди будут против. Начнется тупое нытье про "а если мою машину отберут" (типа сейчас не могут), и логичные вопросы по поводу взломов (там же зачастую дырявыый омнокод). > Но они все же не будут корректно реагировать на необычные ситуации. AI спокойно провезет вас через эпицентр торнадо. Он не знает что этого бояться надо. Ты сам написал что есть датчики. Заложить туда распознавание "минимальной видимости" или "давления воздуха" не так сложно. Я уже молчу про простой "впереди нет датчиков - туда не едем" для моделей с внешними датчиками. Ты думаешь много водителей смогут адекватно среагировать при землетрясении, селевом потоке или падении метеорита? > Ну а вот водила в эпицентр торнадо все же в общем случае ехать не станет, сделает разворот и втопит от него на всем ходу. Или тормознет у подходяшего укрытия и съ...ся туда вместе с пассажиром. А AI точно будет такое делать? Если в твоей местности есть торнадо - то ты просто заложишь правильное поведение. Сейчас в машины для саудитов идут без печек, а для рф можно и без кондишина. А в европах запрещены машины без АБС. Просто обязываешь производителя поставлять такой AI который соответствует требованиям - и все. > Мой пойнт в том что я пока не вижу вокруг ничего этакого А как же тонны фурри-прон-картинок)))?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #81

85. Сообщение от Аноним (-), 13-Ноя-24, 18:06	+/–
> Неумение в абстрактное мышление - атрибут неразвитых существ. Но если что я могу и им картинку сгенерить. Правда выглядит довольно неинтересно. В таком случае у нас большой кусок населения - это толпа "неразвитых существ". > Да я тоже так думаю. Захочет кому по крыше проехаться - и проедется! Не сильно от кода генеренного AI отличается, Просто считаем кол-во аварий и жертв для AI и для мясных водил, а потом смотрим кто победил. У меня есть большие сомнения, что AI сможет набухаться и угробить 3к людей, как у нас за 2023 год. > Хихи, будете добровольцем? :) Возможно. Например если будет вопрос о лечении рака или какой-то смертельной на нынешнее время болезни - то возможно. Где-то же находят добровольцев для тестов лекарств, которые до этого тестировали только на мышах или обезянах. >> И что? Объявить науку злом и пойти в пещеры? > Нет, конечно. Но в самих по себе нейронках науки как раз не густо. Натренировали нейросеть на задачу. И все. Что в этом научного? Результат? Если вместо нейронки им придется 10 лет делать 100500 экспериментов просто играя в рандом, то чем это будет хуже, чем взять от нейронки десяток вариантов и проверить их? > И опасаюсь что некоторые толстые коты могут даже начать применять совсем не гуманные методы тестов из самой жуткой научной фантастики. А что мешает прямо сейчас воровать бомжей и испытывать на них запрещенные препараты? > Относительно. За миллионы лет эволюции очень кривые версии отсеялись естественным способом. Но в последние лет 200, гигиена и развитие медицины позволило выживать даже тем, кто бы раньше не смог. > 1) А тесты как все же будут делать и на ком? Точно все это добровольно будет? Зная толстых котов я совсем не уверен в этом Уже написал, но повторюсь, а что мешает это делать уже? Опыты Карла Вернета в Бухенвальде, "исследования" гипотремии, замена пресной воды на морскую, испытание газов, ядов и зажигательных составов. Отряд 731 в Японии. "Исследование" сифилиса в Таскиги в США... То чем ты пугаешь уже было. > 2) Как насчет engineered существ, в том числе на основе человека? Например убавить мозг, отрубить критическое мышление, жалость, и прочее ненужно. Добавить мышц и послушности, ускорить рост. Идеальный солдат. Да? :) А что сейчас мешает промыть мозги какой-то идеей и кинуть пушечное мясо в бой? Думаешь исследования не велись до появления AI? Что если завтра без AI найдут какой-то чудо препарат? > Во первых я не уверен что толпа неудачников не пойдет тестировать лекарства  из-под этого псевдорандомгенератора в принудительном порядке, на благо всяких толстых котов. В третий раз спрашиваю, а что им мешает это сделать прямо сейчас? Вот вломится к тебе или ко мне полиция, и отвезет на к̶и̶р̶п̶и̶ч̶н̶ы̶й̶ ̶з̶а̶в̶о̶д̶ ̶в̶ ̶д̶а̶г̶е̶с̶т̶а̶н̶е̶ опыты в подпольную лабораторию. > Во вторых вон те захотят не продать 1 раз - а продавать все время, именно подсадив на себя. > Очень удобно, "не заплатил - помер" ... А заодно и тул контроля шикарный А что мешает это сделать уже? Но например производителей инсулина много. Но нет, такого не происходит - есть гос.регулирование, есть просто власть толпы - не выдал пилюли, тебе сожгли фабрику и тебя заодно. > По моему это непосредственно ведет к очень суровой схеме рабства, не? Я про такое слышал кучу раз, начиная от кредитов, до моб. телефонов. Ты же понимаешь, что оно может произойти, только если большинство позволит. > Грубо говоря - вы свободны погулять на марсе в скафандре... но за кислородом к нам все же придете. А если у вас нет денег - тем хуже для вас, дышите вакуумом! Ну.. без денег я прямо сейчас могу протянуть ноги - из-за голода или без мед помощи. > У меня есть подозрения что не все так просто в этом мире, а ряд сюжетов sci-fi лишь предсказывали наше возможное будущее... «Нынешняя молодежь привыкла к роскоши, она отличается дурными манерами, презирает авторитеты, не уважает старших, дети спорят со взрослыми, жадно глотают пищу, изводят учителей» Сократ, V в. до н.э. Да шанс что мир погибнет и человечество себя уничтожит всегда есть, но пока мне кажется, что это будет ядерная война устроенная престарелыми консерваторами.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #79

86. Сообщение от Аноним (86), 13-Ноя-24, 21:02	+/–
> Хм.. я не слышал чтобы хотя бы одного инструктора во вождению за то, что не научил хорошо. Посадят того кто был за рулем? Кого посадят в случае с ИИ? > А что мешает это сделать прямо сейчас без ИИ? Ну, хотя бы то, что роботы машинами не рулят. И да без ИИ можно проверить алгоритм. С ИИ - нет. > Если они написаны на каком-то СИ - то никакая верификация, кроме формальной не даст гарантий. Зато и никто не даст гарантий, что никто не найдет закладку. В случае с ИИ такую гарантию можно дать. > А практика тойоты показывает что мжно просто написать овнокод и убить почти 100 человек. И потом его поправить. В случае с ИИ - это будет не исправление, а новая генерация. В которой будут свои ошибки и закладки.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #83

89. Сообщение от anonymous (??), 15-Ноя-24, 22:01	+/–
Надобно поныть. Использовать этот код в работе никто, конечно же, даже не пробовал.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #14

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема