Як розробити політику в галузі ІІ?

Коли на сцену виходить така ефективна технологія, як штучний інтелект, компанії важливо зайняти певну позицію щодо неї. Штучний інтелект має потенціал змінити те, як ваші співробітники працюють і впроваджують інновації, і, ймовірно, він уже широко використовується у вашій компанії — ви можете навіть не усвідомлювати цього. Список переваг довгий, але використання ІІ пов’язане з ризиком. Розробивши політику компанії, що регулює використання ІІ, ви зможете почати повною мірою використати потенціал цієї технології, мінімізуючи при цьому її потенційні недоліки.

У цій статті ми обговоримо деякі ключові ризики, пов’язані з ІІ, як політика може допомогти їх знизити і як насправді може виглядати процес політики у вашій компанії. Ця стаття не є юридичною консультацією, а заснована на нашому власному досвіді використання інструментів генеративного ІІ, і ми сподіваємося, що вона стане основою для подальших досліджень.

навіщо розвивати політику генеративного штучного інтелекту?

Ваша компанія повинна мати політику в галузі штучного інтелекту з тієї ж причини, з якої вона має будь-яку іншу політику: дотримуватись правил, направляти співробітників у їх роботі та оптимізувати повсякденні операції.

Інструменти штучного інтелекту, які можуть генерувати текст, графіку, аудіо і навіть відеоконтент на основі кількох простих команд, мають привабливі програми для бізнесу. Враховуючи набір доступних інструментів та темпи їхньої розробки, ваша компанія може відстати від конкурентів, якщо не почне шукати способи їх використання.

Однак, щоб співробітники це перевіряли, а компанія уникала відомих ризиків, пов’язаних з ІІ, необхідно реалізувати відповідну політику. Це показує, що компанія знайшла час, щоб розглянути наслідки використання ресурсів ІІ, і надає співробітникам чіткі правила, які слід дотримуватися при експериментах.

Давайте подивимося на деякі ключові ризики, які політика в галузі ІІ має спробувати пом’якшити.

ризики, пов’язані з використанням ІІ.

нерівне звернення, упередженість та неетична поведінка як наслідки використання інструментів штучного інтелекту

Інструменти ІІ настільки об’єктивні, наскільки об’єктивні дані, на яких вони «навчені». Якщо набори даних, що використовуються авторським інструментом, є упередженими, результати, отримані авторським інструментом, будуть такими самими. Наприклад, уявіть собі інструмент штучного інтелекту, призначений для створення описів посад на основі лише кількох основних відомостей про конкретну посаду. Якщо цей інструмент був навчений на тисячах описів посад, що містять неінклюзивні формулювання, то й описи посад, які він генерує, також будуть. Таким чином, інструменти штучного інтелекту можуть легко копіювати упередження своїх творців чи користувачів.

Великі розробники ІІ роблять кроки щодо запобігання упередженості у своїх інструментах, але повністю усунути її дуже складно. Політика ІІ має визнати це обмеження та визначити заходи щодо його подолання – наприклад, рекомендуючи, щоб увесь контент, створений ІІ, ретельно перевірявся людьми на предмет упередженості та рівного звернення перед його публікацією чи розповсюдженням.

порушення прав інтелектуальної власності

Цей ризик також виникає через спосіб створення генеративних моделей ІІ. Використовуючи мільйони фрагментів зображень, музики, відеоматеріалів і текстових даних, на яких навчаються інструменти, вони можуть створювати унікальні твори – однак існує ризик, що до систем, що генеруються, будуть включені суттєві елементи даних, які використовуються для навчання системи. контент, що потенційно може призвести до порушення прав інтелектуальної власності.

Продовжуються суперечки у тому, чи порушує контент, створений ІІ, права його творців, у своїй деякі організації вимагають, щоб творці дали згоду, як їх твори можна використовувати для навчання моделей ІІ. Інші постачальники програмного забезпечення наголошують на «комерційно безпечних» інструментах штучного інтелекту, які навчаються тільки на повністю ліцензованому контенті. Питання про те, чи може контент, створений ІІ, підлягати авторському праву, варіюється в залежності від юрисдикції, але відповідь на це питання важлива для компаній, які розглядають можливість використання цього контенту у своїх комунікаціях.

Юридичні рішення, відображені в політиці генеративного ІІ, будуть відрізнятися, але політика має бути спрямована на зниження ризику порушень прав інтелектуальної власності – можливо, шляхом рекомендації, що контент, створений ІІ, не може використовуватися у зовнішніх комунікаціях компанії.

конфіденційність даних

Конфіденційність даних, що передаються за допомогою інструментів штучного інтелекту, була темою дискусій з моменту їхньої першої появи на ринку. Відомо, що одна з причин, чому багато з цих моделей ІІ так швидко удосконалюються, полягає в тому, що вони використовують зворотний зв’язок та інформацію від користувачів для уточнення їхніх відповідей та розширення своїх знань.

Однак уявіть собі випадок, коли фахівець з персоналу передає конфіденційні професійні дані про список кандидатів на роботу чат-боту зі штучним інтелектом і просить його згрупувати їх за категоріями залежно від рівня досвіду. Деякі експерти з безпеки попереджають, що якщо чат-бот використовує дані, що вводяться користувачем для підвищення точності своїх відповідей, існує ризик того, що ці конфіденційні дані можуть стати доступними іншим користувачам, які знають, як ставити правильні питання.

Це крайній випадок, але він ілюструє деякі питання, що залишилися без відповіді про генеративний штучний інтелект і конфіденційність даних. Багато інструментів ІІ прямо заявляють, що вони не розкривають жодних даних іншим користувачам, але це не є універсальною політикою.

Захист конфіденційності має бути ключовою частиною політики ІІ. Вашій компанії необхідно вказати деталі, але добрим початком може бути рекомендація не надавати дані про фізичних осіб або ділову активність інструментам штучного інтелекту в рефералах.

На додаток до цих ризиків політика повинна також враховувати загальні ризики безпеки та відповідності вимогам, пов’язаним з використанням будь-якого стороннього інструменту в ділових цілях, а також ризик репутаційної шкоди внаслідок випадкового порушення прав інтелектуальної власності, витоку даних або створення упередженої інформації. зміст.

створення політики компанії у галузі генеративного штучного інтелекту

збори експертів

Крім юридичних питань та питань конфіденційності, розробка ефективної політики в галузі ІІ також вимагатиме участі її користувачів — незалежно від того, чи працюють вони у сфері маркетингу, проектування, управління персоналом чи продажу. Вони матимуть найкраще уявлення про те, як генеративний штучний інтелект використовується в компанії та які потенційні ризики, пов’язані з цією технологією, можуть виникнути в їхніх сферах застосування.

поширення інформації

Створити політику в галузі ІІ може бути непросто, але ще складніше змусити співробітників прийняти її. На щастя, більшість досліджень та звітів показують, що співробітники по всьому світу з ентузіазмом ставляться до потенціалу ІІ на робочому місці, тому реалізація політики за допомогою ефективного внутрішнього спілкування, навчання та обговорень може виявитися простішою, ніж ви думаєте. Як і у випадку з будь-якою політикою, важливо забезпечувати її дотримання через регулярні канали, але краще насамперед запобігати порушенням, залучаючи співробітників до роботи, пов’язаної з політикою, та використовуючи генеративний штучний інтелект.

надання простору для інновацій

Політика – це ключовий інструмент захисту від потенційних загроз ІІ. Однак вони не повинні бути настільки суворими, щоб зайво перешкоджати використанню інструментів ІІ. Генеративний штучний інтелект має величезний потенціал у всій компанії, тому відмовляти співробітників від його використання за допомогою обмежувальної політики було б не дуже гарною ідеєю. Натомість при розробці політики слід зосередитися на запобіганні найбільш серйозним загрозам, а також використовувати навчання та обмін повідомленнями, щоб показати співробітникам важливість відповідального використання ІІ.

Скільки часу займає розробка політики у галузі генеративного ІІ?

Політика ІІ не обов’язково має бути особливо тривалою, щоб бути ефективною, але час, необхідний її створення, повністю залежить від характеру організації. На це впливатимуть кількість людей, які беруть участь у процесі, чутливість додатків ІІ та розмір організації.

Однак, цей процес можна прискорити, використовуючи шаблон політики ІІ. Завантажте наш шаблон із пропозиціями щодо базової структури політики, а також порадами та рекомендаціями про те, що слід враховувати в процесі розробки політики. Це відмінна відправна точка, якщо ваша компанія хоче серйозно ставитись до генеративного ІІ.