Во времена СССР существовало такое понятие, как автоматизированная система управления (АСУ). Было четко и понятно. Некое устройство помогает человеку выполнять те или иные задачи.
Пришла демократия и придумали понятие - искусственный интеллект (ИИ). Что это такое, не очень понятно. Предполагают, что ИИ может заменить человека. Если смотреть с точки зрения религии, то человек создан Богом и создать что-то похожее, не получится. Творенье Божье всегда выше человеческого. Если смотреть с точки зрения человека, то и здесь ограничения. ИИ может анализировать только ту информацию, которая переведена в электронный вид. Печатные источники информации ему не доступны.
Г. Греф утверждает, что создали «искусственного врача», который прошел сертификацию, как врач-человек. Две программы при своем создании используют один и тот же объем информации, поэтому они должны показать одинаковый результат, если не накосячит программист.
А вот здесь и возникают разные ситуации. Почти полностью привожу одну заметку.
Робот-инспектор сработал против хозяев: ИИ выписал Воронежской мэрии штрафов на два миллиона.
24 сентября 2026, 14:41
Олеся Аверьянова Заместитель главного редактора «Аргументы недели». Журналист, социолог, писатель.
В городе случилась история, которую писали бы как сатиру, если бы она не была официальной хроникой. Автомобильный комплекс «Дозор» — машина с камерами и искусственным интеллектом, созданная для борьбы с граффити, мусором и надписями на заборах, — доказал, что у алгоритма нет чувства иерархии.
«Дозор» курсирует по улицам и фиксирует нарушения. Но когда система не может установить личность нарушителя или собственника «размалёванной стены», она не опускает руки, а переключается на следующий пункт в списке ответственных: районные управы и саму мэрию. Логика железная: беспорядок в городе есть, значит, кто-то за него должен ответить.
С начала сентября в арбитражный суд поступило более сотни исков на общую сумму свыше двух миллионов рублей. Ответчики — районные управы и администрация города. Истец — система, запущенная той же администрацией. Чиновники теперь судятся сами с собой, пытаясь отменить штрафы, которые им выписал их собственный робот.
Круг замкнулся: чиновники создали ИИ, чтобы наказывать безответственных горожан, а ИИ, изучив город, решил, что самый безответственный субъект на карте города — сами местные чиновники. Юристы называют ситуацию беспрецедентной, горожане — справедливой, а «Дозор», судя по темпам исков, только разогревается.»
Чтобы не было грусти о деятельности чиновников, приведу тост времен студенческих и АСУ.
Ползет по пустыне негр. Жара неимоверная. Еще немного и умрет. Вдруг рука натыкается на закрытую бутылку. Негр встрепенулся и быстро открыл бутылку. Но вместо воды из бутылки появился джин. В награду за свободу предложил выполнить три желания. Первое желание негра хочу, чтобы у меня было много воды. «Ну это мелочи»: сказал джин. Давай второе желание. «Хочу быть белым»: попросил негр. «И здесь нет никах проблем»: ответил джин. Давай третье желание. Негр призадумался и выдал: «Хочу, чтобы ко мне приходило много женщин». Понял, сейчас все выполню. Джин призадумался и… сделал негра унитазом в женском туалете.
Так выпьемте за корректно поставленную задачу!!!
Надеюсь, этот тост охладит умы поклонников ИИ.
В. А. Шепель
1 комментарий:
Вот когда произойдет самое главное событие - ИИ станет управлять самим разработчиком и остановить его не сможет разработчик, тогда жди беды.
Многие страны имеют ядерное оружие, работают АЭС и data-центры. Дальше пусть каждый додумывает сам.
Отправить комментарий