Как ИИ может собирать улики, чтобы предотвратить будущие школьные стрельбы

Школьные стрелки оставляют улики. Мог ли А.И. определить следующий, пока не стало слишком поздно?

В свете недавних смертоносных школьных перестрелок в Соединенных Штатах, педагоги, родители и эксперты по безопасности ищут технологии, которые помогут решить эту проблему. На первый план выходит использование искусственного интеллекта.

«Наша цель — сделать так, чтобы ребенок никогда не хотел приносить оружие в школу», — сказала Сьюзи Лафлин, соучредитель и главный совет Firestorm, фирмы по управлению кризисами. С этой целью в сотрудничестве с Школой непрерывного образования Университета Алабамы, компания разработала программу профилактики, которая ищет признаки раннего предупреждения у детей, которые могут быть подвержены риску совершения насильственных действий в будущем.

Эта программа, получившая название BERTHA и предназначенная для Программы оценки угроз поведенческого риска, возникла в результате массовой стрельбы в Вирджинии-Техник в 2007 году, когда было убито 32 человека — одно из самых смертоносных в истории США. Стрельба в феврале в средней школе имени Марджори Стоунман Дуглас в Паркленде, штат Флорида, в результате которой погибли 17 человек, привлекла больше внимания к проблеме, что вновь было подчеркнуто в мае стрельбой в средней школе Санта-Фе в Техасе, где были убиты 10 учеников и учителей.

Школа стрельбы жертв с 1989 года, Источник: Мать Джонс

как Ай может собрать улики, чтобы предотвратить будущие школьные перестрелки

Программа AI обеспечивает начальный скрининг, основанный на используемых сленговых терминах, контексте, местоположении и связанных ссылках. Затем панель инструментов BERTHA в Firestorm помечает активность для возможного вмешательства. Именно здесь люди — консультанты, учителя, психологи — вмешиваются, чтобы оценить, существует ли реальная угроза, нуждается ли ребенок в дополнительном внимании, потому что он проявляет гнев или склонность к самоубийству, или активность является мягкой.

Трудность заключалась в том, чтобы просеять горы данных, полученных на форумах и в социальных сетях.

«Но никто не несет ответственности за принятие решения», — сказала Бренда Трулов, администратор программы в Университете Алабамы, которая работает с Firestorm над этой программой и связанной с ней программой электронного обучения для преподавателей по всей стране. «Один человек может что-то упустить, так что это команда людей, которые решают, что делать».

Truelove отметил, что программа основана на опыте учителей, судебных психологов и других экспертов, чтобы создать формулу для решения потенциальных кризисов.

Повышенная безопасность означает меньшую конфиденциальность?

Хотя потенциал ИИ в предотвращении будущих школьных перестрелок может быть многообещающим, такое отслеживание и анализ данных порождают неизбежные сомнения в отношении конфиденциальности и точности, а также в том, перевешивает ли безопасность какие-либо проблемы.

Брайс Альберт, ученик девятого класса средней школы им. Марджори Стоунман Дуглас, находился в коридоре на третьем этаже, когда стрелок начал стрелять по ученикам. Когда Альберт увидел, как убийца спускается по коридору, учитель пустил Альберта в класс, и он выжил. После этого опыта он изменил свое мнение о конфиденциальности.

«Раньше я не думал о своих вещах, — сказал Альберт Digital Trends о властях, отслеживающих его использование в социальных сетях. «Но теперь я полностью изменил свое мнение».

Люкс Meelo подчеркнул, что программы AI не имеют доступа к частным аккаунтам; Вся информация является публичной. Лафлин из Firestorm подчеркнул, что они сами не собирают и не хранят данные. Он поддерживается отдельными школами, которые уже имеют опыт ведения учета учащихся. (Firestorm взимает лицензионный сбор в размере 2500 долларов США за школу, в то время как Университет Алабамы предлагает бесплатный онлайн-курс обучения для преподавателей Алабамы K-12. Школы также могут бесплатно работать над собственными проектами раннего предупреждения, используя базовую формулу из девяти шагов Firestorm для создание таких программ.)

Lux признает, что такие тонкости языка, как сарказм, могут оказаться сложными для любого исследования ИИ. Meelo фокусируется на текстовом анализе, а не на анализе изображений, которые изучают другие компании ИИ, такие как Cortica. Тем не менее, есть место для неверного толкования даже для людей-участников.

«Трудно получить эмоции с помощью текстовых сообщений», признал Альберт.

С другой стороны, бесстрастная программа не играет фаворитов и не игнорирует те эмоциональные или поведенческие изменения, которые могут указывать на то, что проблема впереди.

ИИ до сих пор является лишь начальным фильтром или инструментом, чтобы остановить будущие школьные перестрелки.

«В конечном счете, это может быть более точным путем устранения как можно большего смещения», — сказал Браун из Firestorm. Например, сотрудник отдела кадров или консультант могут минимизировать эмоциональные всплески, говоря, что это происходит постоянно. Немигающий компьютер не дает таких оправданий.

«Но это все еще требует человеческого прикосновения, чтобы провести интервью с этим человеком», — сказал Браун. «Компьютер не определит, должен ли этот человек быть выслан или нуждается в консультировании».

ИИ это инструмент, а не решение

Все эксперты Digital Trends, с которыми беседовали в этой истории, подчеркивали тот факт, что ИИ по-прежнему является лишь первоначальным фильтром или инструментом, чтобы остановить будущие школьные перестрелки. Он может генерировать оповещения о детях группы риска, но не может рассказать педагогам, как, когда или даже если они должны вмешаться. Школы по-прежнему нуждаются в собственной команде экспертов — от учителей, которые знают учеников до психологов — и, вероятно, будут нуждаться в них.

«Статистика показывает, что с каждой школьной стрельбой вероятность того, что будет еще одна школьная стрельба, выше», — сказал Люкс.

В конечном счете, человеческий фактор является наиболее важным фактором. «Поговорите с людьми и попросите о помощи», — сказал Альберт. «Не бойтесь просить о помощи».

Ссылка на основную публикацию