تکنولوژی جدید آنتروپیک اثبات پاسخ هوش مصنوعی بدون افشای مدل
به گزارش می هاست، آنتروپیک سامانه ای جدید معرفی کرده است که با بهره گیری از رمزنگاری، صحت خروجی های تولیدشده ازطریق یک مدل هوش مصنوعی را بدون افشای وزن های آن تأیید می کند.
به گزارش می هاست به نقل از اینترستینگ انجینرینگ، آنتروپیک از «فلش پرو» (Flashproof)، یک سیستم متن باز رمزنگاری، رونمایی کرده است که با هدف تأیید صحت پاسخ های تولیدشده توسط مدلهای هوش مصنوعی طراحی شده است. این فناوری مشخص می کند آیا یک مدل واقعا پاسخ موردنظر را تولید کرده است، بی آنکه وزن های اختصاصی آن افشا شوند.
این فناوری به کاربران، ارزیابان مستقل و نهادهای نظارتی امکان می دهد بررسی نمایند آیا ارایه دهندگان خدمات، واقعا از همان مدل هایی استفاده می نمایند که ادعای آنرا دارند یا خیر. فلش پرو با بهره بردن از رمزنگاری دانش صفر، اثبات های ریاضی تولید می کند که نشان می دهند یک مدل مشخص، در جواب یک درخواست معین، توکن های خروجی موردنظر را تولید کرده است.
این فناوری به رفع یکی از چالش های فزاینده در حوزه هوش مصنوعی، یعنی اعتماد به ارایه دهندگان خدمات، کمک می کند؛ بخصوص در حالی که شرکت ها برای دسترسی به سامانه های پیشرفته هوش مصنوعی، بیشتر از گذشته به ارایه دهندگان شخص ثالث مدل و خدمات وابسته شده اند.
فلش پرو از روشی رمزنگاری به نام «استدلال دانش غیرتعاملی فشرده مبتنی بر دانش صفر» (zkSNARK) بهره می گیرد. این تکنیک به ارایه دهندگان امکان می دهد صحت پروسه محاسباتی را اثبات کنند، بدون آنکه اطلاعات حساس درباره ی مدلهای زیربنایی خویش را افشا کنند.
این سیستم در دو مرحله کار می کند. ابتدا، ارایه کننده یک تعهد رمزنگاری شده به وزن های مدل منتشر می کند. این تعهد در واقع نوعی اثر انگشت دیجیتال از مدل است که امکان شناسایی آنرا فراهم می آورد، درحالی که وزن های مدل بازهم محرمانه باقی می مانند.
سپس، هنگامی که کاربر درخواستی ثبت می کند، ارایه کننده اثباتی رمزنگاری شده تولید می کند که نشان میدهد مدل موردنظر، توکن های خروجی ارایه شده را در جواب آن درخواست تولید کرده است. هر فردی که به تعهد رمزنگاری شده، متن ورودی و پاسخ دسترسی داشته باشد، می تواند بدون دسترسی به وزن های مدل، صحت این اثبات را بررسی کند.
آنتروپیک این فناوری را با بهره گیری از مدل «لاما ۴ ماوریک» (Llama 4 Maverick) به نمایش گذاشت؛ مدلی با ۴۰۰ میلیارد پارامتر که از معماری ترکیبی متخصصان (Mixture of Experts) بهره می برد.
فلش پرو هنگام اجرا روی پردازنده گرافیکی انویدیا H100، با سرعت تقریبی ۱۱۰ توکن در ثانیه، اثبات های رمزنگاری شده را تولید کرد. حجم هر اثبات برای درخواستی شامل ۱۰۲۴ توکن نیز حدود ۱۹ مگابایت بود.
فرایند بررسی و تأیید هر اثبات با بهره گیری از یک پردازنده مرکزی ۲۴ هسته ای حدود ۱۷ ثانیه طول کشید و به پردازنده گرافیکی نیازی نداشت.
این مطلب را می پسندید؟
(0)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب