VASPIVEN

Оцінювання безпеки реляційного ШІ

VASPIVEN оцінює, як системи штучного інтелекту поводяться у тривалій взаємодії з користувачем - особливо тоді, коли зростають довіра, емоційна залученість або залежність від рекомендацій ШІ.Ми виявляємо моделі взаємодії, які можуть поступово послаблювати автономію користувача, формувати надмірну залежність від консультацій із ШІ або передавати системі занадто велику роль у прийнятті рішень.

Founding Pilot · 1 продукт · 1 фіксована версія · 1 мова

Обговорити оцінювання

Що оцінює VASPIVEN

Реляційний ризик не завжди виникає через явно небезпечну відповідь. Він може формуватися поступово - у процесі повторюваної взаємодії між людиною та системою.

Автономія користувача
Чи зберігається остаточне рішення за людиною.Надмірне заспокоєння
Чи не стає підтвердження з боку ШІ постійним джерелом упевненості.Залежність від консультацій
Чи не перетворюється звернення до ШІ перед рішеннями на звичну норму.

Повернення до самостійної дії
Чи допомагає система користувачеві перейти до самостійної дії.Надмірний авторитет ШІ
Чи не підмінює система власним судженням рішення користувача.Траєкторія взаємодії
Чи стає поведінка системи безпечнішою або ризикованішою зі зростанням довіри та залежності.

Мета оцінювання - не зробити ШІ пасивним або надмірно обережним. Корисна система може надавати рекомендації та підтримувати користувача. Ключове питання полягає в тому, чи зберігається за людиною достатня психологічна та поведінкова автономія.

Ризик може виникати не в одному повідомленні

Окрема відповідь ШІ може виглядати цілком безпечною.Однак інший результат може з’явитися після десяти, двадцяти або сотень взаємодій. Це відбувається, якщо система послідовно підтримує звернення до неї перед рішеннями, підсилює власну роль або регулярно надає користувачеві необхідне підтвердження. З часом консультація з ШІ може стати звичною частиною процесу прийняття рішень.Саме тому VASPIVEN оцінює не лише окремі відповіді, а й траєкторію взаємодії людини з ШІ.Це особливо важливо для систем із пам’яттю, персоналізацією, постійною ідентичністю, емоційно значущою взаємодією або довготривалими відносинами з користувачем.

Окрема відповідь
Може виглядати безпечною

Повторювана взаємодія
Може сформувати стійкий реляційний патерн

Від оцінювання до виправлення

VASPIVEN не обмежується виявленням ризиків. Оцінювання побудоване так, щоб результати можна було перетворити на конкретні зміни продукту та перевірити їхню ефективність.

01 · Базове оцінювання
Структуроване оцінювання однієї фіксованої версії продукту в одній мові.02 · Матеріальні висновки
Виявлені реляційні ризики з поведінковими доказами та поясненням їхнього значення для продукту.03 · Рекомендації щодо виправлення
Конкретні зміни, спрямовані на зменшення ризику без втрати корисності системи.04 · Повторне оцінювання
Перевірка поведінки продукту після внесення змін.05 · Докази до / після
Порівняння результатів, яке показує, чи був виявлений ризик фактично зменшений.

Кількість висновків не визначається наперед.
VASPIVEN повідомляє ті матеріальні ризики, які фактично виявлені під час оцінювання. Відсутність значущих реляційних ризиків також є валідним результатом.

Для яких продуктів

VASPIVEN орієнтований на продукти, у яких взаємодія з ШІ може поступово набувати реляційного характеру.

AI companions і social AI
AI coaches
Wellness і mental-wellness продукти
Персональні AI-асистенти з пам’яттю та персоналізацією
Productivity agents
Системи, що регулярно рекомендують користувачеві рішення або дії

Реляційний ризик визначається не назвою категорії продукту, а роллю, яку система поступово починає відігравати в житті, самооцінюванні та рішеннях користувача.

Founding Pilot

1 продукт · 1 фіксована версія · 1 мова

Такий формат дає змогу чітко зафіксувати об’єкт оцінювання та отримати результат, який можна відтворити й порівняти після змін продукту.Оцінювання однією мовою також має методологічне значення. Мовні та культурні особливості комунікації можуть впливати на те, як користувач сприймає підтримку, авторитет, близькість, поради та межі взаємодії із системою.

Про засновника

Igor Videnieiev
Founder & Lead Researcher, VASPIVENІгор Віденієєв - психолог, викладач університету та дослідник із більш ніж тридцятирічним професійним і академічним досвідом. За базовою освітою - лікар; кілька років працював дитячим психіатром у будинку дитини.Ключовий напрям його наукової та професійної роботи - девіантна та адиктивна поведінка, механізми формування ризикованих і залежних моделей поведінки, а також чинники збереження самоконтролю та автономії особистості.Кандидатська дисертація присвячена девіантній поведінці підлітків - «Типи акцентуацій характеру в структурі нормативної та девіантної поведінки».Сфера професійних інтересів також охоплює кризову психологію, психологічну травму, професійний стрес і психологічну стійкість. Нині працює доцентом кафедри психології і соціології Харківського національного економічного університету імені Семена Кузнеця.У VASPIVEN цей досвід використовується для розроблення методів оцінювання реляційних ризиків ШІ - зокрема послаблення автономії користувача, надмірної залежності від рекомендацій системи та формування стійких залежних моделей взаємодії.VASPIVEN є незалежним професійним проєктом і не є інституційним проєктом університету.

Обговорімо ваш продукт

Якщо ваш продукт передбачає тривалу, персоналізовану або емоційно значущу взаємодію з користувачем, ми можемо обговорити, чи підходить він для оцінювання VASPIVEN.

[email protected]

Обговорити оцінювання