سیاست استفاده از داده و هوش مصنوعی سینچ
این صفحه توضیح می‌دهد سینچ چگونه از داده‌های پروژه در قابلیت‌های مبتنی بر هوش مصنوعی استفاده می‌کند، چه اطلاعاتی ممکن است برای پردازش به سرویس‌های هوش مصنوعی ارسال شود، خروجی مدل چه جایگاهی در فرایند دارد و چگونه بازبینی انسانی میان پیشنهاد ماشینی و نتیجه رسمی فاصله ایجاد می‌کند.
این سیاست مکمل سیاست حفظ حریم خصوصی است و تمرکز آن بر چرخه پردازش هوش مصنوعی، حدود استفاده از داده و قابلیت ردیابی پردازش‌هاست.
۱. اصل بنیادین: هوش مصنوعی پیشنهاد می‌دهد؛ انسان تأیید می‌کند
در سینچ هوش مصنوعی نقش پیشنهاددهنده دارد، نه تصمیم‌گیر نهایی. مدل می‌تواند از متن سند، صورت‌جلسه، نامه یا گزارش، مواردی مانند اقدام، تعهد، تصمیم، تغییر، مسئله باز یا نکته نیازمند پیگیری را پیشنهاد کند؛ اما این پیشنهادها تا زمان بازبینی انسانی، پیشنهاد اولیه باقی می‌مانند.
هیچ پیشنهاد اولیه بدون تأیید شخص مجاز نباید به اقدام رسمی، تعهد قطعی، تصمیم رسمی یا گزارش رسمی تبدیل شود. این قاعده برای جلوگیری از تبدیل خطای مدل، برداشت ناقص یا متن خارج از زمینه به خروجی رسمی طراحی شده است.
۲. داده در چه مراحلی پردازش می‌شود؟
چرخه معمول پردازش در سینچ می‌تواند شامل دریافت فایل، استخراج متن، ایجاد بخش منبع، تولید پیشنهاد اولیه، بازبینی انسانی و سپس ایجاد اقدام رسمی یا خروجی رسمی باشد. همه قابلیت‌ها الزاماً تمام این مراحل را طی نمی‌کنند، اما این زنجیره چارچوب اصلی برای حفظ قابلیت ردیابی است.
- فایل ورودی: فایل یا محتوای ورودی مجاز کاربر.
- استخراج متن: استخراج متن از فایل در حد لازم برای پردازش.
- بخش منبع: بخش مشخصی از منبع که برای ارجاع و بررسی نگهداری می‌شود.
- پیشنهاد اولیه: پیشنهاد تولیدشده توسط سیستم یا مدل که هنوز رسمی نیست.
- بازبینی انسانی: بررسی، اصلاح، رد یا تأیید پیشنهاد اولیه توسط کاربر یا کارشناس مجاز.
- اقدام یا خروجی رسمی: نتیجه‌ای که فقط پس از تأیید انسانی می‌تواند به وضعیت رسمی در سامانه برسد.
۳. چرا بخش منبع مهم است؟
یکی از اهداف طراحی سینچ این است که نتیجه تا حد ممکن از متن منبع جدا نشود. بخش منبع کمک می‌کند بازبین بداند یک پیشنهاد اولیه از کدام بخش سند استخراج شده و بتواند متن اطراف آن را دوباره بررسی کند.
این ارتباط، احتمال اتکا به خلاصه یا پیشنهاد بدون زمینه را کاهش می‌دهد و در فرایندهای کنترل پروژه و کنترل اسناد اهمیت ویژه دارد؛ زیرا یک جمله ممکن است به بند قبلی، تاریخ، نسخه سند، پیوست یا تصمیم بعدی وابسته باشد.
۴. چه داده‌ای ممکن است برای هوش مصنوعی خارجی ارسال شود؟
اگر برای یک قابلیت از ارائه‌دهنده سرویس خارجی هوش مصنوعی استفاده شود، سیاست سینچ این است که فقط متن یا بخش‌های لازم برای انجام همان پردازش ارسال شود. ارسال کل فایل زمانی که برای انجام وظیفه ضرورت ندارد، مبنای طراحی نیست.
برای مثال، اگر هدف تحلیل یک بخش محدود از متن باشد، ممکن است فقط همان بخش به سرویس هوش مصنوعی ارسال شود. با این حال میزان دقیق داده مورد نیاز به نوع قابلیت، ساختار سند و محدودیت‌های فنی ارائه‌دهنده سرویس بستگی دارد.
۵. خروجی هوش مصنوعی چه وضعیتی دارد؟
خروجی هوش مصنوعی به‌صورت پیش‌فرض پیشنهاد است. این خروجی ممکن است ناقص، نادقیق، تکراری یا متأثر از ابهام متن باشد. حتی زمانی که نتیجه مدل منطقی به نظر می‌رسد، بازبینی انسانی برای تعیین مسئول، موعد، ماهیت تعهد، وضعیت رسمی یا ارتباط با سایر اسناد ضروری است.
کاربر نباید صرفاً به دلیل تولید یک نتیجه توسط مدل، آن را قطعی تلقی کند. اعتبار عملی نتیجه از فرایند بازبینی و تأیید انسانی حاصل می‌شود.
۶. ثبت مشخصات پردازش
برای قابلیت ردیابی فنی، سینچ می‌تواند ارائه‌دهنده سرویس، مدل، نسخه دستور پردازش و طرح داده و زمان پردازش را ثبت کند. این اطلاعات کمک می‌کند مشخص شود یک پیشنهاد اولیه در چه شرایط فنی تولید شده و در صورت تغییر مدل یا منطق پردازش، تفاوت نتایج بهتر بررسی شود.
ثبت این مشخصات به معنی امکان بازتولید کاملاً یکسان خروجی نیست؛ زیرا سرویس‌های هوش مصنوعی ممکن است در طول زمان تغییر کنند و برخی مدل‌ها ذاتاً رفتار احتمالی دارند. هدف، ایجاد سابقه فنی قابل بررسی است.
۷. استفاده از داده برای آموزش مدل
داده‌های پروژه سینچ برای آموزش عمومی مدل‌ها، ساخت مجموعه‌داده عمومی، فروش داده یا استفاده تبلیغاتی به‌کار نمی‌روند. هدف استفاده از داده، ارائه قابلیت مورد درخواست کاربر و اجرای طرح آزمایشی یا سرویس مرتبط است.
اگر ارائه‌دهنده سرویس خارجی سیاست‌های فنی یا قراردادی مستقلی برای پردازش داده دارد، انتخاب و تنظیم آن باید با توجه به نیاز پروژه انجام شود. در طرح آزمایشی‌هایی با داده حساس، ممکن است لازم باشد ارائه‌دهنده سرویس یا معماری پردازش به‌صورت اختصاصی بررسی شود.
۸. حداقل‌سازی داده
اصل مورد نظر سینچ این است که برای هر پردازش فقط داده‌ای استفاده شود که برای انجام همان وظیفه لازم است. این اصل هم در انتخاب بخش منبع و هم در ارسال داده به سرویس‌های هوش مصنوعی خارجی اهمیت دارد.
کاربر نیز باید از وارد کردن اطلاعات غیرضروری خودداری کند. اگر یک سند شامل بخش‌هایی است که برای هدف طرح آزمایشی لازم نیست و امکان جداسازی امن آن‌ها وجود دارد، بهتر است محدوده پردازش پیش از ارسال مشخص شود.
۹. اطلاعات حساس و داده‌های اشخاص ثالث
سینچ برای دریافت عمومی هر نوع داده حساس طراحی نشده است. پیش از ارسال اطلاعات مالی، حقوقی، شخصی، محرمانه یا داده‌های اشخاص ثالث، کاربر باید بررسی کند که مجاز به پردازش آن‌هاست و در صورت نیاز، روش مناسب انتقال و پردازش با تیم سینچ هماهنگ شود.
۱۰. خطا، ابهام و اختلاف نظر با پیشنهاد اولیه
اگر پیشنهاد اولیه با برداشت کارشناس همخوانی نداشته باشد، کارشناس باید بتواند آن را اصلاح یا رد کند. هدف سینچ حذف قضاوت حرفه‌ای نیست؛ بلکه کاهش کار تکراری و کمک به دیده شدن موارد قابل پیگیری است.
در صورتی که متن منبع مبهم باشد، خروجی هوش مصنوعی نیز ممکن است مبهم باشد. در چنین مواردی بهتر است به‌جای تبدیل سریع پیشنهاد اولیه به اقدام رسمی، متن منبع، سند مرتبط و زمینه پروژه دوباره بررسی شود.
۱۱. تغییر ارائه‌دهنده سرویس یا مدل
سینچ ممکن است در طول توسعه محصول یا بر اساس نیاز فنی، ارائه‌دهنده سرویس یا مدل مورد استفاده را تغییر دهد. ثبت مشخصات پردازش کمک می‌کند نتایج حاصل از نسخه‌های مختلف بهتر قابل تفکیک باشند.
در طرح آزمایشی‌هایی که حساسیت داده یا الزامات سازمانی ویژه دارند، تغییر ارائه‌دهنده سرویس می‌تواند نیازمند هماهنگی قبلی باشد و بهتر است این موضوع در چارچوب همان طرح آزمایشی مشخص شود.
۱۲. نقش بازبین انسانی
بازبین انسانی فقط تأییدکننده صوری نیست. انتظار می‌رود بازبین منبع، زمینه، مسئول، موعد، ماهیت تعهد و پیامد تبدیل پیشنهاد اولیه به اقدام رسمی را بررسی کند. در صورت نیاز، متن پیشنهاد اولیه باید پیش از تأیید اصلاح شود.
به همین دلیل طراحی سینچ بر انسان در حلقه تصمیم متکی است و نه بر خودکارسازی کامل تصمیم‌های پروژه.
۱۳. استفاده در تصمیم‌های حساس
خروجی هوش مصنوعی یا پیشنهاد اولیه نباید بدون بررسی متخصص مبنای تصمیم حقوقی، قراردادی، مالی، ایمنی یا سایر تصمیم‌های حساس قرار گیرد. حتی اقدام رسمی تأییدشده نیز باید در چارچوب اختیارات و فرایندهای سازمانی خود پروژه استفاده شود.
۱۴. حذف داده و توقف پردازش
کاربر می‌تواند درخواست حذف داده‌های طرح آزمایشی را از طریق privacy@gocinch.ir ثبت کند. اگر ادامه یک پردازش یا استفاده از ارائه‌دهنده سرویس مشخص با محدودیت سازمانی کاربر سازگار نباشد، موضوع باید پیش از ادامه کار با تیم سینچ مطرح شود.
۱۵. ارتباط با سایر سیاست‌ها
جزئیات عمومی حریم خصوصی در سیاست حفظ حریم خصوصی، محدودیت‌های طرح آزمایشی در شرایط طرح آزمایشی سینچ و ملاحظات امنیتی در یادداشت‌های امنیتی توضیح داده شده‌اند.
آخرین به‌روزرسانی: ۳۱ شهریور ۱۴۰۵
ایمیل پشتیبانی: support@gocinch.ir