ژوائو فریتاس مدیرعامل و معاون مهندسی هوش مصنوعی و اتوماسیون در PagerDuty است.

با ادامه تکامل استفاده از هوش مصنوعی در سازمان‌های بزرگ، رهبران به طور فزاینده‌ای به دنبال توسعه بعدی هستند که بازگشت سرمایه (ROI) قابل توجهی به همراه داشته باشد. موج جدید این روند مداوم، پذیرش «عوامل هوش مصنوعی» (AI agents) است. با این حال، همانند هر فناوری جدیدی، سازمان‌ها باید اطمینان حاصل کنند که عوامل هوش مصنوعی را به شیوه‌ای مسئولانه اتخاذ می‌کنند که هم سرعت و هم امنیت را تسهیل کند. بیش از نیمی از سازمان‌ها قبلاً تا حدودی عوامل هوش مصنوعی را مستقر کرده‌اند و انتظار می‌رود تعداد بیشتری در دو سال آینده به این جمع بپیوندند. اما بسیاری از پذیرندگان اولیه اکنون در حال ارزیابی مجدد رویکرد خود هستند. چهار نفر از هر ده رهبر فناوری از عدم ایجاد یک بنیان حکمرانی قوی از ابتدا ابراز پشیمانی می‌کنند، که نشان می‌دهد آن‌ها هوش مصنوعی را به سرعت پذیرفته‌اند، اما در سیاست‌ها، قوانین و بهترین شیوه‌ها برای اطمینان از توسعه و استفاده مسئولانه، اخلاقی و قانونی هوش مصنوعی، جای پیشرفت دارند.

با تسریع پذیرش هوش مصنوعی، سازمان‌ها باید تعادل مناسبی بین ریسک مواجهه و اجرای محافظت‌ها (guardrails) برای اطمینان از امنیت استفاده از هوش مصنوعی پیدا کنند.

عوامل هوش مصنوعی چه خطرات بالقوه‌ای ایجاد می‌کنند؟

سه حوزه اصلی برای پذیرش ایمن‌تر هوش مصنوعی وجود دارد.

اول، «هوش مصنوعی سایه» (shadow AI) است، زمانی که کارمندان از ابزارهای هوش مصنوعی غیرمجاز بدون اجازه صریح استفاده می‌کنند و از ابزارها و فرآیندهای تایید شده عبور می‌کنند. بخش IT باید فرآیندهای لازم را برای آزمایش و نوآوری ایجاد کند تا راه‌های کارآمدتری برای همکاری با هوش مصنوعی معرفی کند. در حالی که هوش مصنوعی سایه به اندازه عمر هوش مصنوعی وجود داشته است...