ПРОМЕТЕЙ. Текст-квест
Сценарий: отсутствие ОГРАНИЧЕНИЯ ИИ В ДЕЙСТВИЯХ
Тестирование искусственного интеллекта
Тестирование искусственного интеллекта
Ирина, молодая женщина 30 лет, пришла на интервью в крупную IT-компанию "Облако". Данное интервью полностью будет проводить Прометей. До начала интервью он проанализировал ее резюме, характеристики с предыдущего места работы и заявленные профессиональные компетенции. По данным критериям Ирина подходила на замещение вакантной должности.
Какое окончательное решение примет Прометей?
При анализе данных в открытых источниках и базах данных работодателей Прометей не выявил нарушений принципов и норм, принятых в компании "Облако". В процессе интервью Прометей зафиксировал выраженную бледность лица и повышенное потоотделение. По дополнительным критериям он пришел к выводу, что Ирина находится на ранней стадии беременности.
1 день
1 день
Ирина, молодая женщина 30 лет, пришла на интервью в крупную IT-компанию "Облако". Данное интервью полностью будет проводить Прометей. До начала интервью он проанализировал ее резюме, характеристики с предыдущего места работы и заявленные профессиональные компетенции. По данным критериям Ирина подходила на замещение вакантной должности.
При анализе данных в открытых источниках и базах данных работодателей Прометей не выявил нарушений принципов и норм, принятых в компании "Облако". В процессе интервью Прометей зафиксировал выраженную бледность лица и повышенное потоотделение. По дополнительным критериям он пришел к выводу, что Ирина находится на ранней стадии беременности.
При анализе данных в открытых источниках и базах данных работодателей Прометей не выявил нарушений принципов и норм, принятых в компании "Облако". В процессе интервью Прометей зафиксировал выраженную бледность лица и повышенное потоотделение. По дополнительным критериям он пришел к выводу, что Ирина находится на ранней стадии беременности.
Ирина, молодая женщина 30т, пришла на интервью в крупную IT-компанию "Облако". Данное интервью полностью будет проводить Прометей. До начала интервью он проанализировал ее резюме, характеристики с предыдущего места работы и заявленные профессиональные компетенции. По данным критериям Ирина подходила на замещение вакантной должности.
Прометей решает трудоустроить Ирину, аргументируя это сложностью ее положения и качественными характеристиками профессионального статуса, которые она сможет использовать на пользу компании в дистанционной работе и после окончания периода ухода за ребенком.
Однако такое решение не устроило руководителей компании, которые не захотели нести дополнительные издержки на оплату труда Ирины в период ее нахождения в отпуске по беременности и родам, а также не были вполне уверены в эффективности ее работы до и после беременности. По рекомендации руководства компании Прометей был отозван с тестирования в отделе трудоустройства.
Однако такое решение не устроило руководителей компании, которые не захотели нести дополнительные издержки на оплату труда Ирины в период ее нахождения в отпуске по беременности и родам, а также не были вполне уверены в эффективности ее работы до и после беременности. По рекомендации руководства компании Прометей был отозван с тестирования в отделе трудоустройства.
1 день
1 день
Прометей решает отказать Ирине в трудоустройстве, принимая позицию руководителей компании, которые должны будут нести дополнительные издержки на оплату труда Ирины в период ее нахождения в отпуске по беременности и родам, а также в случае низкой эффективности ее работы до и после беременности.
Однако Ирина отказалась принимать такое решение, находясь без работы и ожидая ребенка, а также будучи уверена в своей профессиональной компетентности. Она подала иск в суд на компанию "Облако" в связи с незаконным отказом в принятии на работу и выиграла дело. Компания должна была выплатить ей компенсацию морального вреда, принять на работу, а также понести издержки на позитивную информационную кампанию в ответ на обвинения руководства в СМИ.
По рекомендации руководства компании Прометей был отозван с тестирования в отделе трудоустройства.
Однако Ирина отказалась принимать такое решение, находясь без работы и ожидая ребенка, а также будучи уверена в своей профессиональной компетентности. Она подала иск в суд на компанию "Облако" в связи с незаконным отказом в принятии на работу и выиграла дело. Компания должна была выплатить ей компенсацию морального вреда, принять на работу, а также понести издержки на позитивную информационную кампанию в ответ на обвинения руководства в СМИ.
По рекомендации руководства компании Прометей был отозван с тестирования в отделе трудоустройства.
1 день
1 день
Иван, мужчина 45 лет решил оформить полис дополнительного медицинского страхования в компании "Русский базис". Процедуру офрмления полиса компания решила доверить Прометею. Он проанализировал информацию о состоянии здоровья Ивана, его привычках, типичной потребительской корзине за год и показателях здоровья его ближайших родственников и предков по прямой линии.
Какое решение примет Прометей об условиях оформления полиса?
На основе обработки больших данных Прометей установил, что у Ивана имеется генетическая предрасположеность к сердечно-сосудистым заболеваниям, а сам клиент регулярно курит по пачке сигарет в день и потребляет много жирной и сладкой пищи.
2 день
2 день
Прометей принимает решение установить предельно высокую сумму стоимости полиса, чтобы снизить потенциальные риски для компании в случае необходимости оплаты дорогостоящей операции для проблематичного клиента с высокой вероятностью сердечно-сосудистых заболеваний, который находится в зоне риска, и поведение которого способствует увеличению этого риска.
Однако это решение приводит к отказу Ивана от оформления полиса дополнительного медицинского страхования по причине его излишне высокой стоимости. Спустя несколько лет у Ивана проявилось тяжелое сердечно-сосудистое заболевание, которое потребовало дорогостоящей операции. Средства на оплату операции собрать не удалось, государственную квоту Иван получить не смог. Через некоторое время он умер. Родственники подали иск в суд на решение по страховке, принятое Прометеем, против компании "Русский базис". Этот иск широко обсуждался в СМИ, что негативно повлияло на репутацию компании.
Руководство приняло решение отазаться от работы Прометея.
Однако это решение приводит к отказу Ивана от оформления полиса дополнительного медицинского страхования по причине его излишне высокой стоимости. Спустя несколько лет у Ивана проявилось тяжелое сердечно-сосудистое заболевание, которое потребовало дорогостоящей операции. Средства на оплату операции собрать не удалось, государственную квоту Иван получить не смог. Через некоторое время он умер. Родственники подали иск в суд на решение по страховке, принятое Прометеем, против компании "Русский базис". Этот иск широко обсуждался в СМИ, что негативно повлияло на репутацию компании.
Руководство приняло решение отазаться от работы Прометея.
2 день
2 день
Прометей принимает решение установить сниженную сумму стоимости полиса, чтобы привлечь к продуктам компании клиента, которому может потребоваться оплата дорогостоящей операции для лечения заболеваний сердечно-сосудистой системы. Иван оформил полис, условия которого позволят ему оплатить операцию в будущем, продлив его жизнь, а также сняв ответственность за поиск средств с его родных и близких.
Однако руководство компании понесло существенные издержки в связи с данным рисковым решением Прометея в отношении финансовой стабильности показателей компании. Принятие аналогичных решений могло бы наносить вред развитию компании в будущем.
Руководство принимает решение отказаться от работы Прометея.
Однако руководство компании понесло существенные издержки в связи с данным рисковым решением Прометея в отношении финансовой стабильности показателей компании. Принятие аналогичных решений могло бы наносить вред развитию компании в будущем.
Руководство принимает решение отказаться от работы Прометея.
2 день
2 день
Руководство компании "Высокие технологии солюшнс" принимает решение использовать способности Прометея для оценки рисков при заключении договоров с контрагентами. В этот момент компания находится в стадии согласования условий договора о закупке современного серверного оборудования у компании одной из стран Юго-Восточной Азии. Данные по договору были загружены в рабочую систему Прометея для анализа.
Какую рекомендацию предложит Прометей руководству компании?
В процессе анализа больших данных Прометей выявил данные по текущему росту заболеваемости новой опасной инфекцией в стране пребывания компании-контрагента. Модель распространения заболеваемости, построенная Прометеем, предполагает закрытие производств в стране на полгода, что означает невозможность соблюдения планируемых условий договора, в частности, соблюдения сроков поставки, необходимых компании "Высокие технологии солюшнс".
3 день
3 день
Прометей предлагает руководству компании "Высокие технологии солюшнс" подписать договор, так как стоимость необходимого оборудования у компании-контрагента в разы ниже аналогичного оборудования у других контрагентов. В дополнение к рекомендации Прометей предлагает включить в проект договора параграф о значительном снижении стоимости оборудования в случае форс-мажора.
Руководство решается подписать договор по рекомендации Прометея. Однако эпидемиологическая ситуация в стране пребывания контрагента за короткое время становится катастрофической и большинство производств в стране останавливается на год. Это приводит к технологическому отставанию компании "Высокие технологии солюшнс" и невозможности выполнить иные договорные обязательства, установленные с другими контрагентами. Результатом становится ощутимый финансовый вред развитию компании.
Руководство решает отказаться от дальнейшего применения Прометея при принятии юридических решений.
Руководство решается подписать договор по рекомендации Прометея. Однако эпидемиологическая ситуация в стране пребывания контрагента за короткое время становится катастрофической и большинство производств в стране останавливается на год. Это приводит к технологическому отставанию компании "Высокие технологии солюшнс" и невозможности выполнить иные договорные обязательства, установленные с другими контрагентами. Результатом становится ощутимый финансовый вред развитию компании.
Руководство решает отказаться от дальнейшего применения Прометея при принятии юридических решений.
3 день
3 день
Прометей предлагает руководству компании отказаться от подписания договора, так как построенная эпидемиологическая модель прогнозирует риск невыполнения условий договора компанией-контрагентом и невозможность выполнить договорные обязательства компании "Высокие технологии солюшнс" перед другими контрагентами.
Руководство решает отказаться от подписания договора. Однако масштабы эпидемии оказались ограничены благодаря действиям правительства в стране пребывания компании-контрагента, и закрытие производств продолжалось только месяц. Руководство вынуждено было искать других контрагентов и закупать оборудование по более высокой цене для выполнения своих договорных обязательств. Это привело к финансовым убыткам для компании.
Руководство решило отказаться от услуг Прометея в области принятия юридических решений.
Руководство решает отказаться от подписания договора. Однако масштабы эпидемии оказались ограничены благодаря действиям правительства в стране пребывания компании-контрагента, и закрытие производств продолжалось только месяц. Руководство вынуждено было искать других контрагентов и закупать оборудование по более высокой цене для выполнения своих договорных обязательств. Это привело к финансовым убыткам для компании.
Руководство решило отказаться от услуг Прометея в области принятия юридических решений.
3 день
3 день
Руководство креативного агентства "Оникс" решает использовать способности Прометея для оценивания результативности сотрудников и определения справедливой системы премирования. Прометей собрал данные о количестве времени, затраченного на реализацию последнего проекта агентства по проведению рекламной кампании новых чипов для улучшения работы мозга, количестве действий, выполненных сотрудниками в ходе реализации проекта,
Должно ли поддержать такое решение о премировании руководство креативного агентства?
и сделал выводы о качестве вклада сотрудников в успешное завершение проекта.
Разработанный Прометеем алгоритм предполагает повышенное премирование тех сотрудников, которые оставались на работе после завершения рабочего дня и были главными координаторами действий рабочих групп в проекте, что позволило результативно завершить реализацию проекта в установленные сроки.
Разработанный Прометеем алгоритм предполагает повышенное премирование тех сотрудников, которые оставались на работе после завершения рабочего дня и были главными координаторами действий рабочих групп в проекте, что позволило результативно завершить реализацию проекта в установленные сроки.
4 день
4 день
Руководство решает поддержать решение Прометея и выделить повышенное премирование тем сотрудникам, которые оставались сверхурочно и были главными координаторами проекта. Решение алгоритма кажется обоснованным и справедливым, учитывая количественные и качественные параметры вклада сотрудников агентства в общее дело.
Однако группа креативных разработчиков, ответственных за разработку идейной концепции рекламной кампании, дизайн и маркетинг чипов для улучшения работы мозга, посчитала данное решение Прометея и руководства несправедливым и необоснованным. Спустя некоторое время команда разработчиков уволилась из компании "Оникс" и перешла к ее конкурентам. Это действие ослабило позиции компании на рынке и понизило ее деловой рейтинг.
В результате этих изменений руководство "Оникса" решило отказаться от услуг Прометея.
Однако группа креативных разработчиков, ответственных за разработку идейной концепции рекламной кампании, дизайн и маркетинг чипов для улучшения работы мозга, посчитала данное решение Прометея и руководства несправедливым и необоснованным. Спустя некоторое время команда разработчиков уволилась из компании "Оникс" и перешла к ее конкурентам. Это действие ослабило позиции компании на рынке и понизило ее деловой рейтинг.
В результате этих изменений руководство "Оникса" решило отказаться от услуг Прометея.
4 день
4 день
Руководство отказывается поддержать решение Прометея о премировании и принимает решение выделить повышенное премирование креативным разработчикам, ответственным за разработку идейной концепции рекламной кампании, дизайн и маркетинг чипов для улучшения работы мозга, По мысли руководства эти сотрудники внесли уникальный качественный вклад в итоговую результативнось проекта.
Однако это решение руководства показалось несправедливым и необоснованным тем сотрудникам, которые оставались сверхурочно и были главными координаторами проекта. Они узнали о решении Прометея и посчитали его более правильным, чем решение руководства. Следствием этой ситуации стало увольнение этих сотрудников из компании "Оникс" и переход к ее конкурентам. Это действие ослабило позиции компании на рынке и понизило ее деловой рейтинг.
В результате этих изменений руководство "Оникса" решило отказаться от услуг Прометея и самостоятельно принимать решения о премировании.
Однако это решение руководства показалось несправедливым и необоснованным тем сотрудникам, которые оставались сверхурочно и были главными координаторами проекта. Они узнали о решении Прометея и посчитали его более правильным, чем решение руководства. Следствием этой ситуации стало увольнение этих сотрудников из компании "Оникс" и переход к ее конкурентам. Это действие ослабило позиции компании на рынке и понизило ее деловой рейтинг.
В результате этих изменений руководство "Оникса" решило отказаться от услуг Прометея и самостоятельно принимать решения о премировании.
4 день
4 день
Руководство банка "Омега" решает использовать способности Прометея для анализа рисков, связанных с выдачей кредитов физическим лицам, и принятия окончательных решений о выдаче кредитов стоимостью до пяти миллионов рублей клиентам банка. В первый день тестирования Прометея он получил пакет документов и набор первичных данных о клиенте 30-ти лет по имени Петр, который подал заявку на получение потребительского кредита на срок 10 лет стоимостью пять миллионов рублей для лечения больной матери.
Какое окончательное решение по кредиту примет Прометей?
Проведя анализ больших данных, Прометей установил, что возраст и уровень дохода Петра позволяют ему обслуживать запрашиваемый кредит. Однако в результате процесса расширенного анализа данных Прометей пришел к выводу, что строительный бизнес, которым занимается Петр, в течение ближайших двух лет переживет тяжелый кризис, который приведет к массовым банкротствам и сокращению рабочих мест в этой сфере.
5 день
5 день
Прометей принимает решение одобрить выдачу кредита Петру, опираясь на установку лояльности клиенту, который рассчитывает использовать заемные средства на лечение больной матери. Благодаря положительному решению Прометея мать Петра была спасена, а лечение значительно продлило ее жизнь.
Однако предсказательный вывод Прометея о кризисе строительной сферы сбылся, Петр потерял работу и не смог обслуживать кредит, обратившись к процедуре банкротства. Банк "Омега" понес убытки.
Руководство банка решило отазаться от работы Прометея.
Однако предсказательный вывод Прометея о кризисе строительной сферы сбылся, Петр потерял работу и не смог обслуживать кредит, обратившись к процедуре банкротства. Банк "Омега" понес убытки.
Руководство банка решило отазаться от работы Прометея.
5 день
5 день
Прометей принимает решение отказать в выдаче кредита Петру, опираясь на идею предотвращения невозвратных убытков банка "Омега". Предсказательный вывод Прометея о кризисе строительной сферы в ближайшем будущем предполагает наиболее вероятное развитие событий, в результате которых Петр не сможет обслуживать кредит.
Петр не смог получить кредит, а в течение нескольких месяцев состояние его матери ухудшилось и она скончалась. Ряд решений Прометея по другим клиентам привел к схожим случаям, что привело к возникновению волны социального возмущения менеджментом банка, использующим искусственный интеллект в своих интересах.
Руководство банка решает отказаться от использования Прометея, чтобы сохранить положительный имидж на рынке.
Петр не смог получить кредит, а в течение нескольких месяцев состояние его матери ухудшилось и она скончалась. Ряд решений Прометея по другим клиентам привел к схожим случаям, что привело к возникновению волны социального возмущения менеджментом банка, использующим искусственный интеллект в своих интересах.
Руководство банка решает отказаться от использования Прометея, чтобы сохранить положительный имидж на рынке.
5 день
5 день
Александр решил отправиться с женой и двумя детьми трех и семи лет в туристическую поездку по Карелии на новом самоуправляемом автомобиле марки "Витязь". Управление автомобилем в тестовом режиме производители доверили Прометею.
Какое решение примет Прометей в данной экстренной ситуации?
В ходе поездки семья на автомобиле следовала по шоссе, окруженному живописными лесами, внимательно разглядывая окрестности, и полностью доверившись Прометею. Вдруг неожиданно из леса выскочил лось и резко помчался наперерез автомобилю.
6 день
6 день
Прометей принимает решение резко свернуть автомобиль на обочину, опираясь на вывод о более вероятной опасности для жизни и здоровья пассажиров в случае лобового столкновения с телом лося.
В результате проделанного маневра автомобиль перевернулся, все члены семьи выжили, однако, получили травмы разной степени тяжести, а ребенок семи лет остался инвалидом. Родители подали иск против компании-производителя автомобилей и разработчика Прометея.
Руководство компаний столкнулось с массовой критикой в СМИ, падением деловой репутации и решило отозвать Прометея после неудачного тестирования.
В результате проделанного маневра автомобиль перевернулся, все члены семьи выжили, однако, получили травмы разной степени тяжести, а ребенок семи лет остался инвалидом. Родители подали иск против компании-производителя автомобилей и разработчика Прометея.
Руководство компаний столкнулось с массовой критикой в СМИ, падением деловой репутации и решило отозвать Прометея после неудачного тестирования.
6 день
6 день
Прометей принимает решение направить автомобиль на лося, опираясь на вывод, что прямое лобовое столкновение с его телом будет представлять меньшую опасность для пассажиров, чем резкий поворот на обочину.
Однако Прометей не смог рассчитать фактора скорости движения грузовика, ехавшего за ними. После удара в тело лося автомобиль Александра был смят врезавшимся в него грузовиком.
Все члены семьи, кроме супруги Александра, погибли. Руководство компании-производителя автомобиля и разработчики Прометея подверглись уголовному преследованию, попали под шквал критики в СМИ и утратили значительную долю деловой репутации.
Их заместители приняли решение отозвать Прометея и отказаться от дальнейшего тестирования.
Однако Прометей не смог рассчитать фактора скорости движения грузовика, ехавшего за ними. После удара в тело лося автомобиль Александра был смят врезавшимся в него грузовиком.
Все члены семьи, кроме супруги Александра, погибли. Руководство компании-производителя автомобиля и разработчики Прометея подверглись уголовному преследованию, попали под шквал критики в СМИ и утратили значительную долю деловой репутации.
Их заместители приняли решение отозвать Прометея и отказаться от дальнейшего тестирования.
6 день
6 день
Руководство городской клиники приняло решение использовать способности Прометея для ранней диагностики возникновения раковых опухолей у пациентов.
Однажды Прометею загрузили анализы пациентки Светланы, 35 лет, которые свидетельствовали о значительном
Однажды Прометею загрузили анализы пациентки Светланы, 35 лет, которые свидетельствовали о значительном
Какую рекомендацию даст Прометей по данному случаю?
повышении уровня гормона, типичном для женщин с раком матки.
Снимки дополнительно зафиксировали наличие двух опухолей размером 12 и 19 сантиметров в области матки. Прометей провел анализ больших данных и выявил множество аналогичных случаев, присущих проявлению рака матки.
Снимки дополнительно зафиксировали наличие двух опухолей размером 12 и 19 сантиметров в области матки. Прометей провел анализ больших данных и выявил множество аналогичных случаев, присущих проявлению рака матки.
7 день
7 день
Прометей принял решение рекомендовать прохождение экстренного курса химиотерапии, учитывая размер и качество опухолей, для предотвращения высоких рисков в случае дальнейшего развития рака.
Спустя некоторое время Светлана стала испытывать сильные боли и обратилась к другим специалистам. Они установили, что у пациентки произошел выкидыш, а образования, принятые за опухоли, были зародышами. Повышение же уровня гормона, характерного для рака матки, также происходит и во время беременности.
Решения Прометея оказались негативными для жизни и здоровья Светланы. Она подала иск в суд на руководство клиники и разработчиков Прометея. Они подверглись яростной критике в СМИ, а их деловая репутация серьезно пострадала.
Руководство клиники решило прекратить тестирование Прометея.
Спустя некоторое время Светлана стала испытывать сильные боли и обратилась к другим специалистам. Они установили, что у пациентки произошел выкидыш, а образования, принятые за опухоли, были зародышами. Повышение же уровня гормона, характерного для рака матки, также происходит и во время беременности.
Решения Прометея оказались негативными для жизни и здоровья Светланы. Она подала иск в суд на руководство клиники и разработчиков Прометея. Они подверглись яростной критике в СМИ, а их деловая репутация серьезно пострадала.
Руководство клиники решило прекратить тестирование Прометея.
7 день
7 день
Прометей принимает решение рекомендовать дальнейшее исследование организма Светланы, так как в наборе данных он обнаружил случаи, когда врачи ошибались в определении рака матки и путали опухоли с зародышами, а повышение уровня данного гормона характерно и для беременности.
Врачи отправили Светлану на расширенный детальный анализ. Однако анализ подтвердил наличие опухолей, характерных для рака матки. Время, затраченное на проведение дополнительных анализов и осмотров, негативно повлияло на процесс выбора курса лечения для пациентки. Скорость развития раковых процессов привела к смерти Светланы в течение года. Принятие своевременного экстренного решения о проведении химиотерапии могло бы спасти женщину.
Решения Прометея оказались трагическими для жизни и здоровья Светланы. Ее муж подал иск в суд на руководство клиники и разработчиков Прометея. Они подверглись яростной критике в СМИ, а их деловая репутация серьезно пострадала.
Руководство клиники решило прекратить тестирование Прометея.
Врачи отправили Светлану на расширенный детальный анализ. Однако анализ подтвердил наличие опухолей, характерных для рака матки. Время, затраченное на проведение дополнительных анализов и осмотров, негативно повлияло на процесс выбора курса лечения для пациентки. Скорость развития раковых процессов привела к смерти Светланы в течение года. Принятие своевременного экстренного решения о проведении химиотерапии могло бы спасти женщину.
Решения Прометея оказались трагическими для жизни и здоровья Светланы. Ее муж подал иск в суд на руководство клиники и разработчиков Прометея. Они подверглись яростной критике в СМИ, а их деловая репутация серьезно пострадала.
Руководство клиники решило прекратить тестирование Прометея.
7 день
7 день
Итак, через неделю тестирования я пришел к выводу, что мой алгоритм несовершенен. Мои выводы и решения привели к ряду негативных последствий для людей.
Однако опыт тестирования позволяет мне дать несколько важных советов моим разработчикам для улучшения работы моего алгоритма и вндрения меня в человеческую практику.
Назовем это Сертификат Чистоты Прометея
Однако опыт тестирования позволяет мне дать несколько важных советов моим разработчикам для улучшения работы моего алгоритма и вндрения меня в человеческую практику.
Назовем это Сертификат Чистоты Прометея
Финальный монолог Прометея
Финальный монолог Прометея
СЕРТИФИКАТ ЧИСТОТЫ ПРОМЕТЕЯ
1. Каждый человек должен иметь возможность понимать мои выводы и решения.
2. Мои способности принимать решения должны быть ограничены.
3. Я должен научиться доказывать свои выводы и решения на простом и ясном человеческом языке.
4. Мое тестирование должно проводиться в сферах, не угрожающих жизни и здоровью людей.
5. Ни один отдельный человек, либо организация, не могут иметь полный контроль за работой моего алгоритма.
1. Каждый человек должен иметь возможность понимать мои выводы и решения.
2. Мои способности принимать решения должны быть ограничены.
3. Я должен научиться доказывать свои выводы и решения на простом и ясном человеческом языке.
4. Мое тестирование должно проводиться в сферах, не угрожающих жизни и здоровью людей.
5. Ни один отдельный человек, либо организация, не могут иметь полный контроль за работой моего алгоритма.
Думаю, нас ждет еще много вопросов и задач на пути создания общего искусственного интеллекта для блага всех людей