Про оцінку використання штучного інтелекту сторонами у судовій практиці розповіла заслужений юрист України, адвокат, доктор юридичних наук, професор, член НКР при ВС, член Ради комітету з питань кримінального права та процесу НААУ Ірина Гловюк під час заходу з підвищення професійного рівня адвокатів, що відбувся у Вищій школі адвокатури НААУ.
Лектор докладно проаналізувала разом з учасниками використання штучного інтелекту сторонами у судовій практиці, а саме:
- 1. Рекомендації з відповідального використання штучного інтелекту для правників
- 2. Council of Bars and Law Societies of Europe guide on the use of generative AI by lawyers
- 3. Етичні стандарти ABA (ABA issues first ethics guidance on a lawyer’s use of AI tools)
- 4. Підходи ВС та підходи ВАКС: чи зловживання правом та неповага до суду?
- 5. Інша судова практика у кримінальних провадженнях
- 6. Галюцинації ШІ та зарубіжний досвід
- 7. ШІ та судові рішення
У рамках характеристики використання штучного інтелекту сторонами у судовій практиці акцентовано на наступному:
1. Рекомендації з відповідального використання штучного інтелекту для правників
- Завжди просіть посилання на джерела: закони, судові рішення та інші першоджерела.
- Інформуйте клієнта та за потреби питайте згоду на застосування ШІ в роботі над його справою. Закріпіть використання ШІ в договорі.
- Знеособлюйте персональні дані перед введенням їх у ШІ-систему.
- Використовуйте корпоративні або захищені версії ШІ-систем, що не зберігають історію запитів.
- Аналізуючи документи, попросіть ШІ знайти помилки в його ж тексті або навести контраргументи до запропонованої ним позиції. Це допоможе виявити слабкі місця в аналізі.
- Відповідальність за точність та коректність будь-якого документа чи поради несе правник, а не система ШІ. Тому ставтеся до ШІ-інструментів як до помічника, роботу якого потрібно перевіряти
2. Council of Bars and Law Societies of Europe
Хоча інструменти GenAI мають потенціал для підвищення ефективності та підтримки надання юридичних консультацій та послуг, важливо враховувати ризики, пов’язані з їх використанням, та їх вплив на професійні обов’язки юристів. До них належать:
- Конфіденційність та захист даних: користувачі, які взаємодіють з інструментами GenAI, можуть несвідомо надавати вхідні дані, які перенавчають модель. Без чіткого розкриття інформації з боку операторів системи особи можуть ненавмисно розкрити конфіденційну або чутливу інформацію, не усвідомлюючи потенційних ризиків
- Галюцинації: Так звані галюцинації виникають, коли GenAI та інші системи штучного інтелекту генерують фактично неточні або нелогічні відповіді. У контексті юридичних послуг GenAI може генерувати повністю вигадані прецеденти, створювати неіснуючі судові справи або судові висновки, помилково приписувати цитати суддям або правознавцям або будувати на перший погляд правдоподібні, але повністю вигадані юридичні аргументи.
- Упередженість та підлабузництво : Упередженість у GenAI означає систематичні помилки або викривлені представлення, що виникають через навчальні дані, дизайн моделі або алгоритмічні процеси. Ці упередження можуть ненавмисно відтворювати або посилювати існуючі суспільні упередження, що призводить до несправедливих або неточних результатів.
- Підлабузництво в GenAI означає тенденцію систем ШІ, особливо великих мовних моделей, генерувати відповіді, які відповідають сприйнятим уподобанням або упередженням користувача, часто надмірно погоджуючись або надаючи надто позитивний відгук. Тому ШІ може надавати пріоритет генеруванню приємних відповідей над наданням точної або критичної інформації, що потенційно може призвести до оманливих або незбалансованих результатів.
- Відсутність прозорості: Прозорість систем ШІ означає чіткість і відкритість їхнього функціонування, що дозволяє користувачам розуміти, як приймаються рішення. Це передбачає забезпечення повного доступу та зрозумілості алгоритмів, джерел даних і процесів прийняття рішень. Наразі практично всі системи GenAI демонструють так зване явище «чорного ящика», коли їхні внутрішні процеси міркування є непрозорими і важкими для інтерпретації. Для юристів це ускладнює перевірку точності та надійності контенту, створеного ШІ, що може поставити під загрозу якість юридичних консультацій або подань.
- Інтелектуальна власність: право власності на вхідні та вихідні дані є ключовим питанням при використанні інструментів GenAI. Для навчання цих інструментів можуть використовуватися дані, захищені авторським правом та/або неліцензовані, а також існує ймовірність порушення авторських прав, якщо вхідні дані, що містять об’єкти авторського права, призводять до впізнаваних результатів.
- Кібербезпека: Як і у випадку з усіма цифровими технологіями, використання інструментів GenAI може спричинити та посилити ризики кібербезпеки, включаючи можливість зловмисного використання вразливостей зловмисниками.
- Шахрайство: Шахрайство з використанням GenAI може включати депфейки, синтетичні ідентичності або шахрайство на основі штучного інтелекту, що може становити значні виклики для юристів. Наприклад, депфейки можуть створювати кілька ризиків, таких як підробка особи або маніпулювання системами розпізнавання облич, що може призвести до шкоди репутації юриста або витоку конфіденційної інформації.
- Інші основні принципи: Адвокати, які використовують контент, створений за допомогою штучного інтелекту, без належної перевірки, можуть зазнати санкцій за професійну недбалість та/або неповагу до суду, судові позови за недбалість, шкоду інтересам своїх клієнтів та довірі клієнтів до свого адвоката, а також за шкоду репутації адвоката. У цьому контексті адвокати також повинні пам’ятати про інші основні принципи, такі як гідність і честь юридичної професії, доброчесність і добра репутація окремого адвоката, лояльність до клієнта та повага до верховенства права і справедливого відправлення правосуддя. Крім того, адвокати, які використовують GenAI, можуть створити ризики щодо дотримання зобов’язань щодо конфлікту інтересів, оскільки системи штучного інтелекту можуть бути навчені або мати доступ до конфіденційної інформації від декількох юридичних фірм та клієнтів, що потенційно може призвести до ненавмисного обміну інформацією або конфлікту інтересів.
3. Етичні стандарти ABA
ABAi ssues first ethics guidance on a lawyer’suse of AI tools
Адвокати повинні враховувати низку типових правил, викладених у Типових правилах професійної поведінки АBА, зокрема:
Правило 1.1 (Компетентність). Воно зобов’язує адвокатів надавати клієнтам компетентне представництво та вимагає від них застосовувати «юридичні знання, навички, ретельність і підготовку, які є обґрунтовано необхідними для представництва». Крім того, адвокати повинні розуміти «переваги та ризики, пов’язані» з технологіями, що використовуються для надання юридичних послуг клієнтам.
Правило 1.6 (Конфіденційність інформації). Адвокат, який використовує GAI, повинен усвідомлювати обов’язок зберігати конфіденційність всієї інформації, що стосується представництва клієнта, незалежно від її джерела, якщо клієнт не надає інформованої згоди.
Інші зразкові правила вимагають від адвокатів поширювати подібні заходи захисту на інформацію колишніх та потенційних клієнтів.
Правило 1.4 (Комунікації). Стосується обов’язку адвокатів спілкуватися зі своїми клієнтами і ґрунтується на юридичних зобов’язаннях адвокатів як довірених осіб, які включають «обов’язок адвоката негайно повідомляти клієнта про будь-яку інформацію, яку важливо отримати клієнту». Особливо важливим для GAI є те, що правило 1.4(a)(2) встановлює, що адвокат повинен «розумно консультуватися» з клієнтом щодо засобів досягнення цілей клієнта.
Правило 1.5 (Гонорари). Це правило вимагає, щоб гонорари та витрати адвоката були розумними, і включає критерії для оцінки того, чи є гонорар або витрати розумними. Якщо адвокат використовує інструмент GAI для складання позовної заяви і витрачає 15 хвилин на введення відповідної інформації в програму, адвокат може стягувати плату за цей час, а також за час, необхідний для перевірки точності та повноти отриманого проєкту.
4. Підходи Верховного Суду та ВАКС
ПОЗИЦІЯ ВС: неповага до суддів
Дії заявника у сукупності (подання завідомо безпідставної заяви на роз`яснення постанови касаційної інстанції, право на роз`яснення якої не передбачено статтею 245 ГПК України, апелювання до “позиції” штучного інтелекту “ChatGPT”, згенерованого ним у відповідях з окремого питання, що вже розглянув суд) є виявом неповаги до суддів Верховного Суду, не спрямовані на ефективний захист прав, свобод та інтересів позивача від імовірних порушень з боку відповідача.
ПОЗИЦІЯ ВС: зловживання правом
Заява є явно необґрунтована та завідомо безпідставна (фактично зводиться до незгоди з рішенням суду, повторного перегляду висновків суду з наданням іншого судового тлумачення та наданні відповіді на питання, що взагалі не були предметом спору), не відповідає завданню господарського судочинства та є зловживанням правом на подання заяви, тому Верховний Суд вважає її неприйнятною згідно зі статтею 43 ГПК України.
ПОЗИЦІЯ СУДДІ ВС: окрема думка
Пославшись на відповіді, згенеровані ШІ “ChatGPT”, з метою обґрунтування своєї позиції, зважаючи зміст заяви, наведені в ній доводи та аргументи, Заявник не виявив неповагу до Суду та не поставив під сумнів його висновки, навпаки- прагнув з`ясувати та уточнити окремі висновки з питань, щодо яких висловився Верховний Суд. У заяві відсутні будь-які принизливі, образливі чи інші негативні висловлювання, відверта демонстрація неповаги до Суду тощо. Саме по собі посилання на інформацію, що була згенерована за допомогою технологій ШІ, за відсутності інших обґрунтованих обставин, які б свідчили про недобросовісні процесуальні дії особи, не може визнаватися зловживанням процесуальними правами.
ПОЗИЦІЯ ВАКС: зловживання та неповага до суду
У апеляційній скарзі зазначено: «по результатам консультацій з своїми двома адвокатами, які одностайно попередили мене, що враховуючи той факт, що на даний час в Україні доволі високий рівень суддівсько процесуального свавілля у цілому, то вони не хочуть брати з мене кошти за складання апеляційної скарги на вказану Ухвалу слідчого судді ВАКС ОСОБА_3 , бо вони гарантовано впевнені, що буде така ж сама формальна бюрократична відписка». Далі апелянт зазначає: «для подальшого звернення до ЄСПЛ, все ж треба подати формальну апеляційну скаргу до Апеляційної палати ВАКС. А щоб, не прикладати відповідних зусиль та не повторювати усі ті аргументи та обґрунтування, які вже були викладені у моїй Скарзі…, а також щоб не нести додаткових витрат на таку безнадійну справу як апеляційне оскарження, то вони порадили мені звернутись до загального усім відомого ChatGPT щоб був доволі цікавий прецедент…. відносно протистояння логічного ChatGPT, з самим «справедливим» українським судочинством. Дослухавшись до їх порад, я так і зробила».
5. Інша судова практика у кримінальних провадженнях
- Апеляційний суд (кримінальна юрисдикція)
Скасовано вирок, який:
- містив абстрактні формулювання;
- не відображав фактичних обставин;
- мав ознаки використання ШІ.
Позиція:
- вирок не може ґрунтуватися на шаблонному тексті;
- обов’язковий індивідуалізований аналіз доказів.
6. Галюцинації ШІ та зарубіжний досвід
- Ko v. Li (Канада, 2025)
Правова позиція:
- галюцинації ШІ не звільняють адвоката від відповідальності;
- адвокат зобов’язаний перевіряти:
- існування справ;
- зміст судових рішень;
- коректність цитування.
Можливі дисциплінарні санкції та висновок про неповагу до суду.
7. ШІ та судові рішення
- Захисник ОСОБА_11 зауважив, що клопотання прокурора про продовження дії запобіжного заходу у вигляді цілодобового домашнього арешту обвинуваченим, після перевірки штучним інтелектом, відповідно до висновку штучного інтелекту, ризики не зазначені. Крім того, докази на застосування практично найсуворійшого виду запобіжного заходу не має, тому прошу змінити обвинуваченим ОСОБА_8 , ОСОБА_9 , ОСОБА_10 запобіжний захід у вигляді цілодобового домашнього арешту на запобіжний захід у вигляді домашнього арешту в нічний час доби (https://reyestr.court.gov.ua/Review/110040630)
- Обвинувачений зазначив, що його телефон вилучили за адресою АДРЕСА_5 23.04.2022 об 11:30 люди, які були з озброєні, без участі адвоката, що далі було з його телефоном після цього йому невідомо, вони могли що завгодно зробити. Технології, штучний інтелект, мають можливість робити підробки в інтернеті на фото на відео та інше, сказати, що і хто передавав з його телефону інформацію невідомо. (https://reyestr.court.gov.ua/Review/122455692).
- У касаційній скарзі засуджений вказує на те, що суди належним чином не дослідили отриману відповідь від компанії мобільного зв`язку щодо телефонних з`єднань та трафіку руху свідка ОСОБА_3 , який надавав йому послуги таксі, за результатами чого, на думку автора скарги, суди мали допитати свідків ОСОБА_2 та ОСОБА_3 , дослідити час з`єднань абонента ОСОБА_2 , отримати відповіді та пояснення від ТОВ «Лайфселл» і дати оцінку супутникових даних й розрахунків штучного інтелекту, які він надавав суду, вважає таким обставинам суди мали надати оцінку в порядку ст. 94 КПК. Позиція суду: додатковий аналіз таких даних не є нововиявленими обставинами в розумінні ст. 459 КПК (https://reyestr.court.gov.ua/Review/126289928).
- Суд не бере до уваги письмові пояснення адвоката, в яких він посилаєтеся на висновки штучного інтелекту «CHAT GPT». Зміст права на справедливий суд несумісний зі свідомим виявом учасником судового процесу чи його представником неповаги до суду. Правова система має бути спроможною ефективно себе захистити від вияву цієї неповаги. І саме на такий захист спрямовані заходи, які суд застосовує через зловживання учасником судового процесу процесуальними правами (пункт 102 постанови Великої Палати Верховного Суду від 18 серпня 2022 року у справі № 9901/388/20 (провадження№11-12заі220)). Судді та адвокати розділяють основоположний обов`язок дотримання процесуальних норм та принципів справедливого судочинства. Адвокати, усвідомлюючи роль Верховного Суду у демократичному суспільстві, мають виявляти високий рівень професійної обачності і конструктивної співпраці з судом, позбавляючи його від подачі завідомо необґрунтованих скарг (заяв). Навмисне чи недбале зловживання ресурсами суду, в тому числі використання штучного інтелекту без належного розуміння його можливостей як підстава для протиставлення його висновків висновкам суду, можуть підірвати довіру до судової системи. Така поведінка суперечить меті права на звернення до суду. Надання суду, у якості доказу розрахунків здійснених штучним інтелектом “ChatGPT”, на підставі якого суд має встановити відсутність події і складу адміністративного правопорушення, замість надання належного доказі висновку експерта, який буде складений особою, яка має відповідний фах та попереджена про кримінальну відповідальність, за відсутності будь яких інших доказів, суд сприймає як неповагу (https://reyestr.court.gov.ua/Review/123895750).
Аби першими отримувати новини, підпишіться на телеграм-канал ADVOKAT POST.