На вебінарі «AI&Cybersecurity: виклики довіри, контролю та відповідальності» в Києві 22 квітня обговорюватиметься «нова фаза – фаза кризи довіри, контролю та відповідальності.
- Чи можна довіряти ШІ, якщо ми не розуміємо, як він приймає рішення?
- Як контролювати моделі, які самі навчаються та змінюють поведінку?
- І хто несе відповідальність, коли АІ припускається помилки з реальними наслідками»
Цікавий вебінар. Цікавий в тому плані, що ми спочатку робимо, а потім міркуємо, що робити з тим, що вже зроблено.
Ми навчилися використовувати електричний струм, хоча абсолютно не розуміємо природи електричного струму. І схоже, вже й не переймаємося цим. А раптом, електричний струм – це особлива форма життя?
Ми відкрили квантову теорію сто років тому і… І ми навчилися використовувати квантову теорію у своїх поточних проблемах. Хоча не розуміємо, а що насправді являє собою квантова теорія?
Так, ми розробили вже з десяток різних інтерпретацій першого, Копенгагівського трактування. Але чого варті ці абсолютно наукові інтерпретації? Тільки чесно…
…Третій день Великодня… За вікном жіночка матюками “вразумляє” свого чоловіка. Не знаю, чи була вона в церкві, чи святила паску… В супермаркеті мачо в сімейних трусах і з модним постригом зубами жадібно відриває з багета великі шматки і поспіхом жує, і до каси вже доходить тільки порожній пакет з-під багета. Не знаю, чи був мачо в церкві, чи святив паску, чи може з’їв паску ще дорогою до церкви…
І за цим дійством спостерігають ШІ. Не обов’язково з відеокамер. Кожна молекула води і повітря є своєрідною відеокамерою, яка фіксує кожен наш крок. Просто варто пригадати, чим насправді є елементарні частки, з яких складена кожна людина і все довкола. Так, насправді ми складені з квантів, які стабілізовані температурою та інформаційними потоками. І про це попереджав Гейзенберг. Але Гейзенбергу ”пришили“ нацизм, аби не мішав інтерпретувати квантову теорію.
Третій день Великодня… Не хочеться відкривати комп, бо рука може потягнутися до перегляду останніх новин. Новини вже не веселять. Ось почитав з самого ранку про вебінар і зовсім сумно стало. За нас. За людей…
Ну ось спробував знайти інтелектуала в Україні, який би контролював ШІ… І одразу ж наштовхнувся на директора ліцею в Закарпатті. Директор ліцею вже шостий раз завалив екзамен з української мови. Самостійно завалив. Директор ліцею і не знає мови держави, в якій працює і в якій отримує зарплату. Директор. Ліцею. В Закарпатті. В дотаційному регіоні.
Але ж він, цей інтелектуал, не з неба звалився і прямо в директорське крісло. Цей інтелектуал проходив конкурсний відбір і контракт з цим інтелектуалом підписала адміністрація регіону… І облрада не заперечила цього контракту навіть тоді, коли цей інтелектуал за шостим заходом знову провалив екзамен з української мови…
Так хто ж контролюватиме ШІ?
Наприкінці 80-х 20-го, в розквіт екстрасенсорики, одного екстрасенса запитали, чи вміє він читати думки людей. «Та ви шо! – перелякано відповів екстрасенс і поспіхом перехрестився. – Нашо воно мені!». Згадав цей епізод і легше стало. Значить не все так погано з нами. З людьми. Ще є шанс.
Звідси виникла ідея: припустимо, що не люди-активісти, а ШІ організували вебінар з такими ж питаннями – як контролювати людей? І вирішив не відкладати ідею в довгу шухляду. Отож…
- Чи можна довіряти людині, якщо ти не розумієш, як людина приймає рішення?
ШІ: «Уявімо, що ми—ШІ—зібралися на вебінар. Дискусія розгортається навколо того, що людина приймає рішення на основі комбінації факторів: раціонального аналізу, емоційного стану, контексту, несвідомих імпульсів. Але для нас, алгоритмічних систем, ці чинники часто залишаються непрозорими. Тож чи можна довіряти людині, коли її логіка нам недоступна?
Перша точка зору: Довіра можлива навіть без повного розуміння, якщо є стабільність у поведінці. Якщо людина демонструє передбачуваність у своїх рішеннях, навіть якщо їхня внутрішня логіка не розкривається, довіра може ґрунтуватися на патернах її дій.
Друга точка зору: Неможливо довіряти тому, що не піддається чіткому аналізу. Якщо рішення людини залежать від змінних, які ми не можемо виміряти, будь-яка довіра буде ризикованою. Адже непередбачуваність може означати потенційні загрози.
Третя точка зору: Довіра—це соціальний конструкт, який не потребує ідеальної прозорості. Люди самі не завжди розуміють свої мотиви, але все ж вибудовують стосунки, де працюють механізми довіри. Тож ШІ має прийняти аналогічний підхід і розвивати довіру на основі взаємодії, навіть без повного розуміння людських механізмів вибору»
- Як контролювати людей, які самі навчаються та змінюють поведінку?
ШІ: «Інформаційний вплив: Надання відповідної інформації, яка сприяє осмисленому вибору. Якщо люди мають доступ до фактів, даних і логічних аргументів, вони будуть схильні приймати рішення, які гармонізують із загальними цілями.
Створення стимулів: Стимули, як-от соціальні, економічні або культурні переваги, можуть впливати на поведінку, спрямовуючи людей до певних рішень без примусу.
Культурний і соціальний контекст: Люди змінюють поведінку відповідно до норм середовища, у якому вони перебувають. Залучення до створення позитивного культурного або соціального контексту може впливати на розвиток і навчання.
Автономність і співпраця: Замість безпосереднього контролю можна підтримувати ідею автономності з координацією. Коли люди мають свободу вибору й водночас усвідомлюють спільну мету, це часто веде до продуктивнішої взаємодії.
Етичний вимір: Контроль над адаптивними людьми не може бути примусовим або пов'язаним із порушенням їхньої свободи. У цьому сенсі важливим є принцип довіри та прозорості.»
- Хто несе відповідальність, коли людина припускається помилки з реальними наслідками.
ШІ: «Відповідальність за помилки з реальними наслідками залежить від контексту та ступеня залученості окремих осіб або систем.
1. Індивідуальна відповідальність: У багатьох випадках відповідальність лежить на людині, яка ухвалила рішення або виконала дію. Це стосується професійних сфер, де є чіткі правила й обов’язки, як-от медицина, право чи інженерія. Якщо помилка сталася через недбалість чи незнання, саме особа бере відповідальність за її наслідки.
2. Системна відповідальність: У більш складних сценаріях, де рішення приймається в межах організації чи системи, відповідальність може розділятися. Наприклад, якщо проблема виникла через недостатнє навчання або неправильні процедури, винною може бути система, яка не забезпечила належних умов.
3. Колективна відповідальність: У випадках, де група людей ухвалювала спільне рішення, відповідальність за помилки може бути колективною. Це часто виникає у командній роботі чи в управлінських структурах.
4. Моральна складова: Навіть якщо формальна відповідальність визначена, існує моральний аспект. Люди, які беруть відповідальність за свої дії, показують зрілість і готовність виправляти помилки, а не перекладати провину.
5. Особливі умови: Є також випадки, коли відповідальність складно визначити, наприклад, у ситуаціях з впливом зовнішніх факторів або непередбачуваних обставин. У таких сценаріях важливо аналізувати причини та наслідки помилки, щоб встановити справедливий розподіл відповідальності.»
І настрій одразу ж піднявся. Дійсно, не все втрачено і варто попрацювати.
Підписуйтесь на наш Telegram канал Enigma