|
23.01.2022, 17:15 | #21 |
Platinum Member
Регистрация: 08.09.2016
Адрес: Ирландия
Сообщений: 2,559
|
|
---------
постдок, н.с., к.ф.-м.н., 01.04.07
|
|
Реклама | |
|
23.01.2022, 17:22 | #22 | |
Advanced Member
Регистрация: 13.02.2020
Сообщений: 448
|
Вроде как да... Но, блин, общий алгоритм и конкретное решение под присмотром человека...
Добавлено через 51 секунду Цитата:
Добавлено через 5 минут Рекомендует компьютер человеку оператору что-то сделать. Итоговое решение за человеком. Но компьютер же реально обработал быстро и качественно информацию, дает наиболее просчитанный вариант решения. Какое основание у человека не согласиться? Хотя кнопку-то нажимает человек, его решение итоговое |
|
23.01.2022, 17:46 | #23 | ||
Platinum Member
Регистрация: 08.09.2016
Адрес: Ирландия
Сообщений: 2,559
|
Цитата:
в случае использовании того, что многие называют ии (ну или алгоритмов глубого и машинного обучения с использованеи нейросеток) присутсвие оператора вредно само по себе так как мы а) не понимаем и скорее всего никогда не сможем понять алгоритмы принятия решений такими системами и б) дичайшее замедление скорости реакции системы. естесвенно убирать опретора прям сейчас категорически нельзя, так как алгоритмы обучения мягко говоря не совершенны. но уже четко понятно, что беспилотный автомобиль работает лучше, если шаловливые руки среднестатистического водятла не тянуться к рулю. причем все эти "делемы вагонетки" - это исчезающие малые проценты, практически пренебрежимые, случаев, которые могут произойти. а вот то. что ии будет избегать множества других аворийных ситауций пишут и говорят только специалисты. о "дилеме вагонетки" пишут, потмоу что это хайп и потому что западное белое общество в целом достаточно ксенофобно и не очень критично мыслит и любит свои привелегии. это не означает, что они этим отличаются от других обществ, просто они явлются основным потербителем и\или производителем и\или финансируют практически всех и любых инноваций и логично ориентироваться на них и их культуру. таким образом самым логичным будет убирать оператора как можно дальше и выдавать ему только крайне ораниченные полномочия в ситуациях, где машина не может принять решение. или где для принятия решения необходима какая либо экспетная оценка или консенсусное решение. причем это точно не должно быть по типу "едем в машине и тут внезапно автопило говорит, что он все -дальше сам" - ибо это прямой путь к полному трындецу. в том виде как я это вижу будет постепенное снижение роли опреатора в силу скандалов с неправильными реешениями операторов. и стархованием отвественности разработчкиво алгоритмов, развитие системы экспертизы. я сильно подозреваю, что в итоге реальную юридическую отвественость будут нести только в случае, когда смогут найти и доказать, что о вохможной проблеме знали и скрыли. вообще по факту это и сейчас так действует в отношении фармы и пищевки. т.е. принципиально идейная база есть. Добавлено через 28 секунд я замедлился))) Добавлено через 5 минут Цитата:
Добавлено через 1 минуту советую еще кстати погуглить каналы в телеграме. там довольно много народа, кто в этом разбирается и публикуют или свое или чужое. ну и англоязычные источниники. там все активнее, особено если учесть хайп с метавселенной последние несколько месяцев |
||
---------
постдок, н.с., к.ф.-м.н., 01.04.07
|
|||
23.01.2022, 17:54 | #24 |
Advanced Member
Регистрация: 13.02.2020
Сообщений: 448
|
Вы еще более усложнили мой вопрос
Мне бы просто найти баланс между человеком и компьютером в ситуации без дилеммы вагонетки. Хотя у нас же, вроде бы, допускается сбить самолет с террористами (фактически - принести в жертву сотню пассажиров) ради предотвращения теракта. Здесь юридически проблема уже решена |
23.01.2022, 18:06 | #25 |
Platinum Member
Регистрация: 08.09.2016
Адрес: Ирландия
Сообщений: 2,559
|
я имел ввиду, что народ вместо того, чтоб рассматривать чтото разумное начинает сразу смотреть на крайние и экстремальные ситуации вместо того, чтоб смотреть на чтото разумное и частотное.
я пытаюсь сформлировать мысль, что либо мы юзаем алгоритм и тогда вся отсвественость на тех,кто стоит за алгоритмом или мы юзаем оператора и тогда вся первичная ответсвеность на операторе. если у оператора инструкция следовать рекомендации алгоритма всегда - вопрос зачем опреатор? и опреатор не может быть крайним, кроме случая когда он не выполнил инструкцию. если у оператора инструкция перепроверять алгоритм чем то другим - то крайний оператор по умолчанию, хотя если расследование покажет что был косяк проверочных методах, то крайний будет кто-то из тех, кто ответственен за них. если методы не идеальны и мы это точно знаем, то крайний оператор или разработчик алгоритма, который умышленно его исказил + страхование ответсвености ибо косяк может быть не умышленным и тот, который невохможно предусмотреть |
---------
постдок, н.с., к.ф.-м.н., 01.04.07
|
|
23.01.2022, 19:32 | #26 | |
Advanced Member
Регистрация: 13.02.2020
Сообщений: 448
|
Цитата:
Указ Президента РФ от 10.10.2019 N 490 "О развитии искусственного интеллекта в Российской Федерации" (вместе с "Национальной стратегией развития искусственного интеллекта на период до 2030 года") ...49. Основными направлениями создания комплексной системы регулирования общественных отношений, возникающих в связи с развитием и внедрением технологий искусственного интеллекта, являются: ... в) создание правовых условий и установление процедур упрощенного тестирования и внедрения технологических решений, разработанных на основе искусственного интеллекта, а также делегирования информационным системам, функционирующим на основе искусственного интеллекта, возможности принятия отдельных решений (за исключением решений, которые могут ущемлять права и законные интересы граждан), в том числе при исполнении государственными органами государственных функций (за исключением функций, направленных на обеспечение безопасности населения и государства); http://www.consultant.ru/cons/cgi/on...u9MvSeLANpQNjB |
|
23.01.2022, 21:22 | #27 |
Advanced Member
Регистрация: 19.03.2016
Сообщений: 468
|
|
23.01.2022, 21:55 | #28 |
Platinum Member
Регистрация: 08.09.2016
Адрес: Ирландия
Сообщений: 2,559
|
|
---------
постдок, н.с., к.ф.-м.н., 01.04.07
|
|
23.01.2022, 22:59 | #29 |
Advanced Member
Регистрация: 19.03.2016
Сообщений: 468
|
Яснѣе не стало
|
24.01.2022, 01:43 | #30 |
Platinum Member
Регистрация: 08.09.2016
Адрес: Ирландия
Сообщений: 2,559
|
моя мысля была в том, что есть общество которое ставить себя и свои проблемы\переживания на первое место и не особо рефлексирует по этому поводу (как минимум те кто на верху пирамиды, хорошо образованные белые гетороксексуальные мужчины с хорошим английским). они правы и точка. то самое "бремя белого человека" и "явное предначертание". для них сама по себе идея, что они могут накосячит или что кто-то или что-то может принимать решения лучше них невозможна. поэтмоу они не готовы рассматривать примеры, когда возможны ошибки - те самые сильно частотные случаи, где тот же беспилотник будет гораздо безопастнее, чем человек, а толькоп примеры, где все очень сложно и не понятно. из раздела видити как сложно, мы сами не можем разобраться - куда там машине. плюс пресса, которая любит жаренное. осоебно штатовская, европейцы гораздо более сдержанные. вот и публикуют везде в широкой печати "а как же ии будет решать делему вагонетки?"
возможно, это глобус и сова, но у меня в голове вполне выстраивается такая штука. ну может с большим количеством оговорок и дополнений, но все писать влом. интеретсный пример. в штатах белое население категорически против (более 70% опрошенных) ии судей, а вот авроамеркианцы и латиносы более 80 % за. ибо они не верят белым судьям. упс. это кстати еще очень хорошо показывает, что блм движение- мягко говоря не только про грабеж магазинов. |
---------
постдок, н.с., к.ф.-м.н., 01.04.07
|
|