В університеті Північної Кароліни (University of North Carolina School of Law (UNC Law)) юристи і дослідники провели надзвичайно цікавий експеримент – навчальний судовий процес, в якому ролі присяжних виконували три великі нейронні мовні моделі: ChatGPT (OpenAI), Claude (Anthropic) та Grok (xAI). Сценарій: уявне кримінальне провадження (пограбування) із передачею стенограми засідання ШІ-моделям, які мали «вирішити» долю підсудного. Мета експерименту: спроба з’ясувати, чи можуть штучні нейронні моделі виконувати функцію присяжних, і які ризики супроводжують таку ідею.
Надзвичайно цікаві висновки цього експерименту: нейронні моделі не розпізнають невербальні сигнали свідків (тобто, не бачать підморгувань, зітхань і взагалі якихось емоцій свідків), не мають життєвого досвіду (життєвий досвід – це оригінальна функція в юридичній практиці), не розуміють контексту так, як людина-присяжний; ШІ можуть бути упередженими, тобто, існує ризик, що ті самі соціальні чи культурні упередження, які присутні в людях, «вбудовані» в дані, на яких тренувалися ШІ; присяжний-людина може пояснити свою думку, а ШІ часто видає рішення, яке важко пояснити («чорний ящик Шредінгера»).
Висновок сторонніх людей-експертів: «У цьому відхиленні криється ризик. Якщо не провести чітких меж, технології розширюватимуться доти, доки не почнуть приймати рішення, яких не повинні».
Експеримент в UNC показує, що ШІ має потенціал бути інструментом для допомоги чи прискорення судових процедур, але ШІ не готовий замінити людські функції, такі як «оцінка поведінки свідків і підсудного, моральних аспектів, життєвого контексту».
А тепер висновок самого ШІ: «Симульований процес в UNC є важливим «дзеркалом» — він відображає не просто «можливість» використання ШІ в юридичній системі, а викликає питання: чи ми готові до таких змін, чи розуміємо їх межі, і чи не втрачаємо при цьому людську суть правосуддя».
Перед тим, як перейдемо до «моральних аспектів і життєвого контексту», пригадаємо інформаційний фон, на тлі якого відбувався цей надзвичайно цікавий експеримент.
Експеримент із ШІ-присяжними проводився в затишній аудиторії університету Північної Кароліни. Тихий кабінетний фон сприяє для проведення експериментів та розлогих дискусій. Особливо щодо «моральних аспектів і життєвого контексту». Щодо «упередженості» також…
Але! Справжня упередженість виникає не тільки в Києві, а й по всій Україні. Зрештою, сьогодні в країнах Балтії та Польщі також. Бо зрозумілий фон цієї упередженості – кривава агресія росії на Україну, яка точиться майже чотири роки. І яка загрожує дестабілізувати мирний розвиток кожного суспільства по всій Східній Європі.
На фоні кривавої війни, постійних російських ракетних ударів по містах і селах України, під час яких гинуть діти і беззахисні малюки, розлогі розмови про «моральні аспекти і життєвий контекст» сприймаються досить таки упереджено…
Більше того! Виникає вже не упередженість, а стійка відраза до розмов про «моральні аспекти і життєвий контекст» коли ці розмови підхоплюються російськими циніками-інтелектуалами, які вранці прокладали маршрути для ракетних ударів по пологових будинка і дитячих садочках України, а ввечері, російські циніки-інтелектуали, попивши запашної бразильської кави, починають з творчим натхненням коментувати експеримент в Північній Кароліні…
https://habr.com/ru/news/960196/
Але по вернемось до експерименту в університеті Північної Кароліни, в якій мовні нейронні мережі виступили в ролі присяжних…
У вступній частині посту я свідомо використовував не «ШІ», а наголосив «нейронні мовні моделі» (хоча далі використовував саме поняття «ШІ», бо це вже стало звичною нормою). Чому?
А тому, що поняття «інтелект» не розкриває якихось особливостей взагалі. У свідомості людини інтелект також пов’язаний із здоровим глуздом. Або з розумом. І це нам надзвичайно яскраво і виразно продемонстрували російські циніки-інтелектуали. https://www.youtube.com/watch?v=AfbN2fsE0vw
Головне – ми не знаємо природи інтелекту, не знаємо, як саме утворюється/формується/генерується інтелект в голові людини, як утворюються/формуються/ генеруються думки в півкулях головного мозку людини і що саме впливає на якість наших думок та інтелекту…
Ми дуже багато не знаємо і саме тому в скрутних ситуаціях поспішаємо прикритися «моральними аспектами і життєвим досвідом».
Звідси, всі висновки після експерименту в університеті Північної Кароліни можна назвати упередженими. Бо висновки не мають під собою наукової бази. Ми не можемо ставити якісь претензії до нейронних моделей (упередженість, моральний аспект, життєвий контекст), не знаючи природи утворення інтелекту в нейронних моделях…
Підписуйтесь на наш Telegram канал Enigma