شرکت های آزمایشگاه Chatterbox می گوید:

مصاحبه قبل از اینکه هوش مصنوعی در شرکتها معمول شود ، رهبران شرکت ها باید متعهد به رژیم آزمایش امنیتی مداوم شوند که به تفاوت های ظریف مدل های هوش مصنوعی تنظیم شده است.

این نمای مدیر عامل آزمایشگاه Chatterbox Danny Danny Coleman و CTO Stuart Battrsby است که با آنها صحبت کرد ثبت نام در مورد اینکه چرا شرکت ها برای حرکت از آزمایشات آزمایشی AI به سمت استقرار تولید آهسته هستند.

کلمن گفت: “پذیرش شرکت امروز فقط 10 درصد است.” “مک کینزی می گوید که این یک بازار چهار تریلیون دلاری است. اگر شما همچنان چیزهایی را که مردم نمی دانند از آن ایمن هستند ، می توانید این کار را انجام دهید یا اینکه حتی نمی دانند نه فقط تأثیر شرکت ، بلکه تأثیر اجتماعی را نمی دانند؟”

وی افزود: “مردم در این شرکت ، آنها بدون اینکه اداره و ایمن شوند ، کاملاً آماده آن فناوری نیستند.”

در ماه ژانویه ، شرکت مشاوره مک کینزی گزارشی را منتشر کرد که به بررسی پتانسیل غیر واقعی هوش مصنوعی (AI) در محیط کار می پردازد.

این گزارش ، “SuperAgency در محیط کار: توانمندسازی مردم برای باز کردن تمام پتانسیل های هوش مصنوعی” ، علاقه و سرمایه گذاری فزاینده ای را در فناوری هوش مصنوعی نشان داد ، اما پذیرش کند.

… کاری که شما باید انجام دهید این است که به لفاظی یا فروشنده مدل یا فروشنده نگهبان اعتماد نکنید ، زیرا همه به شما خواهند گفت که این بسیار ایمن و ایمن است.

در این گزارش آمده است: “رهبران می خواهند سرمایه گذاری های هوش مصنوعی را افزایش داده و پیشرفت را تسریع کنند ، اما آنها با چگونگی ایمن سازی هوش مصنوعی در محیط کار می جنگند.”

کلمن استدلال می کند که امنیت سایبری سنتی و امنیت هوش مصنوعی در حال برخورد هستند ، اما بیشتر تیم های Infosec به این نتیجه نرسیده اند و فاقد پیشینه برای درک سطوح حمله منحصر به فرد AI هستند. وی به کسب سیسکو از هوش قوی و کسب شبکه Palo Alto Networks از Protect AI به عنوان نمونه ای از برخی از بازیکنان که رویکرد درست را اتخاذ کرده اند ، اشاره کرد.

باتسبی گفت که نکته اصلی سازمانهایی که می خواهند هوش مصنوعی را در مقیاس مستقر کنند ، پذیرفتن رژیم آزمایش مداوم بر اساس آنچه در واقع سرویس AI انجام می دهد.

وی توضیح داد: “بنابراین اولین چیز این است که در مورد آنچه برای استفاده شما ایمن و ایمن است فکر کنید.” “و سپس آنچه شما باید انجام دهید این است که به لفاظی های فروشنده مدل یا فروشنده نگهبان اعتماد نکنید ، زیرا همه به شما خواهند گفت که بسیار ایمن و ایمن است.”

باتسبی معتقد است که این بسیار مهم است ، زیرا حتی کاربران مجاز سیستم هوش مصنوعی می توانند باعث آسیب رساندن به کارها شوند.

کلمن گفت: “آنچه ما سعی می کنیم با شما روبرو شویم این است که فیلترهای ایمنی محتوا ، نگهبان ها به اندازه کافی خوب نیستند.” “و به زودی تغییر نخواهد کرد. باید خیلی لایه لایه تر باشد.”

در حالی که این ممکن است هزینه ای داشته باشد ، باتسبی ادعا می کند که آزمایش مداوم می تواند به کاهش هزینه ها کمک کند – به عنوان مثال ، با نشان دادن اینکه مدل های کوچکتر و مقرون به صرفه تر به همان اندازه برای موارد استفاده خاص ایمن هستند.

مصاحبه کامل زیر