ایمن سازی عوامل هوش مصنوعی در ویندوز

از آنجایی که عوامل مبتنی بر هوش مصنوعی در نحوه کار و ایجاد ما یکپارچه می شوند، ویندوز متعهد است که این تجربیات را برای افراد و شرکت ها سازنده تر و ایمن تر کند.

امروز، تجربیات جدید Copilot و agent را معرفی کردیم که هوش مصنوعی قدرتمند را در ویندوز 11 آسان می کند. یکی از تجربیات جدیدی که معرفی کردیم، یک ویژگی آزمایشی به نام Copilot Actions است. Copilot Actions در ویندوز 11 بر اساس اعلامیه ما در ماه می، جایی که ما اعلام کردیم، ساخته شده است Copilot Actions در وب – به Copilot اجازه می دهد تا اقدامات واقعی را از طرف شما انجام دهد، مانند رزرو میز در رستوران مورد علاقه شما یا سفارش مواد غذایی.

به زودی به Windows Insiders در Copilot Labs، در حال پیش‌نمایش یک حالت آزمایشی برای Copilot Actions هستیم تا فراتر از مرورگر گسترش یابد و مستقیماً روی فایل‌های محلی در ویندوز اقداماتی انجام دهد.

این وبلاگ نحوه استفاده Copilot Actions در Windows از فضای کاری عامل آزمایشی جدید ما را برای تکمیل وظایف برای شما در یک محیط مجزا و حاوی در حالی که شما را مطلع و تحت کنترل نگه می دارد، به اشتراک می گذارد.

Copilot Actions چیست؟

Copilot Actions یک من یک نماینده دارم که با تعامل با برنامه ها و فایل های شما، با استفاده از دید و استدلال پیشرفته برای کلیک کردن، تایپ و اسکرول مانند یک انسان، وظایف را برای شما تکمیل می کند.

این کارگزاران را از دستیاران غیرفعال به همکاران دیجیتالی فعال تبدیل می کند که می توانند وظایف پیچیده ای را برای شما انجام دهند تا کارایی و بهره وری را افزایش دهند – مانند به روز رسانی اسناد، سازماندهی فایل ها، رزرو بلیط یا ارسال ایمیل. پس از اعطای دسترسی به عامل، هنگامی که با ویندوز ادغام شد، عامل می‌تواند از مزایایی که قبلاً روی رایانه شخصی خود دارید، مانند برنامه‌ها و داده‌هایتان، برای تکمیل وظایف برای شما استفاده کند.

چرا امنیت مهم است

Agentic AI امروزه قابلیت‌های قدرتمندی دارد – برای مثال، می‌تواند بسیاری از وظایف پیچیده را در پاسخ به درخواست‌های کاربر انجام دهد و نحوه تعامل کاربران با رایانه‌های شخصی خود را تغییر دهد. با معرفی این قابلیت‌ها، مدل‌های هوش مصنوعی همچنان با محدودیت‌های عملکردی از نظر نحوه رفتار مواجه هستند و گهگاه ممکن است توهم داشته باشند و خروجی‌های غیرمنتظره تولید کنند. علاوه بر این، برنامه‌های کاربردی هوش مصنوعی، خطرات امنیتی جدیدی مانند تزریق متقابل (XPIA) را معرفی می‌کنند، که در آن محتوای مخرب جاسازی شده در عناصر یا اسناد UI می‌تواند دستورالعمل‌های عامل را نادیده بگیرد و منجر به اقدامات ناخواسته مانند استخراج داده یا نصب بدافزار شود. برای اطلاعات بیشتر به ایمن سازی پروتکل زمینه مدل: ایجاد آینده ای امن تر در ویندوز مراجعه کنید.

همانطور که ما شروع به ایجاد قابلیت‌های عامل در ویندوز می‌کنیم، تعهد ما این است که کنترل‌های امنیتی و حریم خصوصی قوی را لحاظ کنیم که مشتریان را قادر می‌سازد تا پتانسیل‌های خود را با اطمینان با پشتیبانی از راهنمایی‌های واضح و نرده‌های محافظ مناسب کشف کنند.

اصول امنیت و حریم خصوصی نمایندگی

پرداختن به چالش‌های امنیتی عوامل هوش مصنوعی مستلزم رعایت مجموعه‌ای قوی از اصول امنیتی است تا اطمینان حاصل شود که عوامل مطابق با هدف کاربر عمل می‌کنند و از اطلاعات حساس خود محافظت می‌کنند. ما در حال ایجاد مجموعه ای از اصول امنیتی و حفظ حریم خصوصی بادوام هستیم که برای استفاده از قابلیت های عامل جدید در ویندوز باید رعایت شوند:

1. حساب های عامل متمایز: ما در حال ایجاد این توانایی برای عوامل در ویندوز هستیم با حساب های عامل اختصاصی متمایز از حساب کاربری دستگاه شما کار کنید. این امر کاربرد خط‌مشی خاص عامل را تسهیل می‌کند که می‌تواند با قوانین اعمال شده برای سایر حساب‌ها مانند حساب‌های کاربران انسانی متفاوت باشد. می‌توانید دسترسی به فایل‌ها و منابع دیگر را با این حساب‌های نماینده اختصاصی به همان روشی که با سایر کاربران دستگاهتان مانند خانواده یا همکاران انجام می‌دهید، به اشتراک بگذارید.
2. امتیازات نمایندگی محدود: یک نماینده با مجوزهای محدود شروع به کار می کند و فقط به منابعی دسترسی پیدا می کند که به صراحت به آنها اجازه می دهید، مانند فایل های محلی شما. یک مرز کاملاً مشخص برای اقدامات نماینده وجود دارد و هیچ توانایی ایجاد تغییرات در دستگاه شما بدون دخالت شما را ندارد. این دسترسی در هر زمانی قابل لغو است.
3. اعتماد عملیاتی: عواملی که با ویندوز ادغام می شوند باید توسط یک منبع قابل اعتماد امضا شوند تا عوامل مخرب یا بد بتوانند با طیف وسیعی از اقدامات دفاعی عمیق مانند تأیید گواهی و آنتی ویروس لغو و مسدود شوند.
4. طراحی حفظ حریم خصوصی: ویندوز طراحی شده است تا به نمایندگان کمک کند تا به تعهدات مایکروسافت در این زمینه پایبند باشند بیانیه حریم خصوصی مایکروسافت و استاندارد هوش مصنوعی مسئول. Windows از نمایندگان در جمع‌آوری و پردازش داده‌ها فقط برای مقاصد کاملاً تعریف شده پشتیبانی می‌کند و شفافیت و اعتماد را تضمین می‌کند. را ببینید گزارش حریم خصوصی مایکروسافت برای جزئیات در مورد تعهدات ما برای پیشبرد هوش مصنوعی مسئولانه و در عین حال حفاظت از حریم خصوصی و سایر حقوق اساسی.

توسعه عامل و امنیت مرتبط با هوش مصنوعی همچنان یک حوزه تحقیقاتی در حال حرکت است که فعال است مشارکت از مایکروسافت با مشارکت جامعه امنیتی گسترده تر. به عنوان بخشی از مایکروسافتابتکار آینده امنتعهد، کمک به کاربران، کسب‌وکارها و توسعه‌دهندگان برای مقابله با این چالش‌ها اولویت اصلی ما است زیرا مردم شروع به تعامل با نمایندگان به عنوان بخشی از جریان کاری روزانه خود می‌کنند.

کنترل های امنیتی

Copilot Actions اصول امنیت و حریم خصوصی ما را عملی می‌کند، و ما به طور مداوم رویکرد خود را یاد می‌گیریم و اصلاح می‌کنیم، همانطور که بازخورد دنیای واقعی را از پیش‌نمایش زمانی که در دسترس قرار گرفت، جمع‌آوری می‌کنیم. چهار بلوک ساختمانی جدید برای پشتیبانی از این کاوش به ویندوز 11 اضافه شده است. در طول دوره پیش‌نمایش، قبل از اینکه این ویژگی‌ها به طور گسترده در دسترس قرار گیرند، به افزودن کنترل‌های امنیتی و حریم خصوصی دقیق‌تر ادامه خواهیم داد:

• کنترل کاربر: Copilot Actions به طور پیش‌فرض غیرفعال می‌شود و تنها زمانی فعال می‌شود که کاربر تنظیمات ویندوز زیر را در تنظیمات > سیستم > اجزای هوش مصنوعی > ابزارهای عامل > ویژگی‌های عامل آزمایشی تغییر دهد.

• حساب های نمایندگی: یک حساب استاندارد جداگانه در دستگاه شما در هنگام اقدام از طرف شما در اختیار نمایندگان قرار می گیرد که مجوز و کنترل دسترسی در سطح نماینده را فعال می کند.

• فضای کاری نماینده: یک محیط محدود که در آن عامل ها می توانند به طور موازی با یک کاربر انسانی کار کنند و مجوزهای جداسازی زمان اجرا و مجوزهای دانه بندی را ممکن می کند. این قابلیت‌هایی مانند دسک‌تاپ خودش را در اختیار عامل قرار می‌دهد و در عین حال دید و دسترسی عامل به فعالیت دسک‌تاپ کاربر را محدود می‌کند. فضای کاری نماینده بر اساس مرزهای امنیتی شناخته شده ای ساخته شده است که مایکروسافت مطابق با خدمات امنیتی قدیمی ما از آنها دفاع خواهد کرد. معیارها. برای اطلاعات بیشتر در مورد فضاهای کاری نماینده، نگاه کنید ویژگی های عامل آزمایشی – بیشتر بدانید .

• شفافیت کاربر: راهی برای کاربران برای مجوز، نظارت و کنترل اقدامات نماینده در فضای کاری نماینده.

بلوک های ساختمانی بیشتری مانند پشتیبانی هویت Entra و MSA به زودی ارائه می شود.

برنامه‌ها و اقداماتی که توسط Copilot Actions هدایت می‌شوند، به‌جای حساب کاربر رایانه شخصی که وارد سیستم شده است، تحت حساب عامل اجرا می‌شود که به وضوح کار انجام شده توسط نماینده را از سایر اقدامات روی سیستم مانند کارهای انجام شده توسط کاربر رایانه شخصی متمایز می‌کند. حساب‌های عامل تنها زمانی ارائه می‌شوند که کاربران فضای کاری نماینده را فعال کنند.

در طول پیش‌نمایش آزمایشی Copilot Actions، عامل به مجموعه محدودی از پوشه‌های شناخته شده محلی کاربر – مانند اسناد، بارگیری‌ها، دسک‌تاپ یا تصاویر – و سایر منابعی که برای همه حساب‌های موجود در سیستم قابل دسترسی است دسترسی خواهد داشت. تنها زمانی که کاربر مجوز ارائه می‌کند می‌تواند به داده‌های خارج از این پوشه‌ها دسترسی داشته باشد. مکانیسم های امنیتی استاندارد ویندوز مانند لیست های کنترل دسترسی (ACL) به جلوگیری از استفاده غیرمجاز کمک می کند.

در حالی که Copilot Actions کار می کند، کاربران می توانند پیشرفت آن را نظارت کنند، در هر مرحله مطلع شوند و کنترل را در هر زمان به دست بگیرند. هنگامی که اقدامات حساس یا تصمیمات مهم درگیر هستند، Copilot Actions ممکن است برای انجام آن مراحل خاص تأییدیه کاربر بیشتری را درخواست کند – اطمینان از رضایت آنها و قرار دادن آنها قبل از هر اتفاق مهمی.

نگاه به جلو

امنیت یک تعهد مستمر است. همانطور که ما قابلیت های عامل را در ویندوز گسترش می دهیم، به تکامل دفاعی خود ادامه خواهیم داد. با انتشار پیش‌نمایش پیش‌نمایش Copilot Actions برای Windows Insiders در Copilot Labs، ما مشتاقانه منتظر جمع‌آوری بازخورد ارزشمندی هستیم که به ما کمک می‌کند تا تجربه را پیش از انتشار گسترده‌تر شکل دهیم. علاوه بر این، پلتفرم ویندوز و کنترل‌های امنیتی آن به زودی در پیش‌نمایش خصوصی برای سایر توسعه‌دهندگان برای آزمایش و ارائه ورودی در دسترس خواهد بود.

ویندوز 11 امن ترین نسخه ویندوزی است که تا به حال ساخته شده است، و با ورود به این دوره جدید نمایندگی، تعهد ما روشن است: ویندوز امن ترین، قابل اعتمادترین و کاربر محورترین پلت فرم برای محاسبات عامل خواهد بود.

ما مشتاقانه منتظر به اشتراک گذاری بیشتر در مایکروسافت ایگنایت 2025در ماه نوامبر