به نقل از «آنا»

خطر نشر اطلاعات حساس سازمان‌ها در «چت جی‌پی‌تی»/ مراقب چت‌های خود باشید

تاریخ انتشار: ۵ مرداد ۱۴۰۲ | کد خبر: ۳۸۳۲۵۳۵۷

به گزارش خبرنگار خبرگزاری علم و فناوری آنا، امروزه با گسترش فناوری و تکنولوژی کمتر کسی است که هوش مصنوعی و «چت جی‌پی‌تی» نشناسد و از آن استفاده نکرده باشد؛ همه افراد در هر سنین و جایگاهی پیش از آنکه به خطرات این فناوری‌ها فکر کنند در جهت سرگرمی از آن استفاده می‌کنند، اما بی خبر از آنکه این تکنولوژی ممکن است به ضرر و در جهت سوءاستفاده از اطلاعات شخصی افراد گام بردارد به همین دلیل در بسیاری از نقاط جهان ممنوعیت‌هایی را برای استفاده از این فناوری در نظر گرفته‌اند.

بیشتر بخوانید: اخباری که در وبسایت منتشر نمی‌شوند!

«چت جی‌پی‌تی» ثابت کرده است که در بسیاری از حرفه‌ها دستیار نسبتاً جذابی است، اما استفاده از آن بدون خطر نیست. به همین دلیل برخی از شرکت‌ها استفاده از ربات چت را در محل کار ممنوع کرده‌اند. زیرا وجود اطلاعات مربوط به کار، در یک پلتفرم هوش مصنوعی آنلاین که متعلق به شرکت شماست یک نقض احتمالی امنیت و حریم خصوصی به حساب می‌آید. هرچند که استفاده از آن در پیشبرد کار و صرفه‌جویی جویی در وقت یک موهبت محسوب می‌شود.

از طرف دیگر در برخی بیمارستان‌ها نیز استفاده از چت جی‌پی‌تی را متوقف کردند و ترجیح دادند مزایای هوش مصنوعی را نادیده بگیرند، زیرا برخی از این پلتفرم برای نوشتن یادداشت‌های پزشکی خصوصی استفاده می‌شود و هیچ اطمینانی از محرمانه بودن اطلاعات بیمار در هنگام استفاده از فناوری ربات هوش مصنوعی، مانند چت جی‌پی‌تی وجود ندارد.

کارمندان داده‌های حساس شرکت‌ها را در چت جی‌پی‌تی پست می‌کنند

اخیرا داد‌های جدید نت اسکیپ نشان می‌دهد که کارمندان علی‌رغم خطر آشکارهک یا نشت اطلاعات، همچنان به اشتراک‌گذاری اطلاعات حساس شرکت با نویسندگان هوش مصنوعی و چت بات‌هایی مانند چت جی‌پی‌تی ادامه می‌دهند.

این مطالعه  که حدود ۱،۷ میلیون کاربر را در ۷۰ سازمان بین‌المللی را تحت پوشش قرار داده است، نشان می‌دهد که به‌ازای هر ۱۰ کاربر در ماه، به‌طور میانگین ۱۰ هزار کد منبع برای چت جی‌پی‌تی منتشر می‌شود که آن را آسیب‌پذیرترین مکان شرکت، تبدیل می‌کند.

در حالی که انتشار داده‌های تنظیم شده  و مالکیت معنوی در چت جی‌پی‌تی بسیار کمتر رایج است، واضح است که بسیاری از توسعه دهندگان به سادگی متوجه آسیب‌هایی نیستند که نشت کد منبع می‌تواند ایجاد کند.

چت جی‌پی‌تی در صدر استفاده توسط کاربران سازمان‌ها

نت اسکیپ در کنار برخورد‌های مداوم که می‌تواند منجر به نقاط ضعفی برای شرکت‌ها شود، بر افزایش علاقه به هوش مصنوعی نیز تاکید کرد. این آمار به رشد ۲۲.۵ درصدی استفاده از اپلیکیشن‌های هوش مصنوعی طی دو ماه گذشته اشاره دارد. به طوری که روزانه در شرکت‌های بزرگ بیش از ۱۰ هزار کاربر به طور متوسط از پنج اپلیکیشن هوش مصنوعی استفاده می‌کنند.

چت جی‌پی‌تی با در نظر گرفتن هشت برابر کاربران فعال روزانه نسبت به سایر اپلیکیشن‌های «جن‌ای‌آی» پیشتاز است. هر کاربر به طور متوسط روزانه ۶ بار این قابلیت را دارد که آسیب قابل توجهی به کارفرمای خود وارد کند.
 
سه برنامه برتر هوش مصنوعی مولد مورد استفاده سازمان‌ها در سراسر جهان عبارتند از:  چت جی‌پی‌تی (۸۴ درصد) گرامرلی، (۹،۹ درصد) و بارد (۴،۵ درصد) که خود رشد سالم ۷،۱ درصد در هفته را در مقایسه با ۱،۶ درصد در هفته برای چت جی‌پی‌تی تجربه می‌کند.

                     

مراقب آنچه در چت جی‌پی‌تی پست می‌کنید باشید

 بسیاری بر این باورند که می‌توان از آپلود کد منبع یا دیگر اطلاعات حساس اجتناب کرد، اما مدیر تحقیقات تهدید نت اسکیپ، ری کانزانز، می‌گوید که این کار اجتناب ناپذیر است و در عوض، کانزانز مسئولیت پیاده سازی کنترل‌های مربوط به هوش مصنوعی را بر عهده سازمان‌ها می‌گذارد.

جیمز رابینسون قائم مقام ارشد امنیت اطلاعات این شرکت افزود: سازمان‌ها باید بر تکامل آگاهی نیروی کار و سیاست‌های داده‌ای خود تمرکز کنند تا نیاز‌های کارمندانی که از محصولات هوش مصنوعی به طور سازنده استفاده می‌کنند برآورده شود. همچنین برای ادمین‌ها و تیم‌های فناوری اطلاعات، این شرکت پیشنهاد می‌کند که دسترسی به برنامه‌های غیرضروری یا آن‌هایی که خطر نامتناسبی دارند را مسدود و راهنمایی مکرر کاربر را فراهم کنند، و از تکنولوژی‌های مدرن پیش‌گیری از اتلاف داده استفاده کنند.
 
این شرکت پیشنهاد می‌کند که مدیران و تیم‌های فناوری اطلاعات دسترسی به برنامه‌های غیرضروری یا برنامه‌هایی که محتوای نامتناسب دارند را مسدود کنند، و آموزش‌های مکرر را برای کاربران انجام دهند.

کلام آخر 

همان طور که استفاده از این فناوری‌ها جذاب و متفاوت است و باعث تسریع در بسیاری از فعالیت‌ها و مشاغل می‌شود اما ممکن است به دلیل رابط کاربری متن‌باز و وجود ضعف‌های امنیتی اطلاعات حساس و مهم سازمان‌ها با انتشار درچت جی‌پی‌تی به بیرون درز پیدا کند. 

اگر شما هرگونه نگرانی در مورد امنیت و حفظ حریم خصوصی خود دارید، توصیه می‌کنم اطلاعات حساس یا شخصی خود را در چت جی‌پی‌تی به اشتراک نگذارید و هر موقع نیاز به پاسخ به سوالاتی در مورد موضوعی حساسیت‌زا و حاشیه دار دارید، به افراد متخصص و متعارف‌تر در این زمینه مراجعه کنید. از طرف دیگر در هرگونه تعامل آنلاین، نگرانی‌های امنیتی نیز وجود دارد  پس امنیت اطلاعات شخصیتان را حفظ کنید.

انتهای پیام/

منبع: آنا

کلیدواژه: ChatGPT هوش مصنوعی داده حریم خصوصی چت جی پی تی اطلاعات حساس هوش مصنوعی سازمان ها شرکت ها

درخواست حذف خبر:

«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت ana.press دریافت کرده‌است، لذا منبع این خبر، وبسایت «آنا» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۸۳۲۵۳۵۷ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.

با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.

خبر بعدی:

اپراتور اختصاصی هوش مصنوعی راه‌اندازی می‌‎شود

 معاون علمی، فناوری و اقتصاد دانش بنیان رئیس جمهور با اعلام اینکه اساسنامه مرکز ملی هوش مصنوعی در شورای عالی انقلاب فرهنگی در حال تدوین است، گفت: این مرکز در اولین گام یک کاربر هوش مصنوعی یا به اصطلاح «اپراتور اختصاصی هوش مصنوعی» را در کشور راه‌اندازی می‌کند.

به گزارش خبرگزاری ایمنا، روح الله دهقانی فیروزآبادی امروز_شنبه هشتم اردیبهشت_ در نشست خبری با خبرنگاران اظهار کرد: توسعه فناوری در کشور وظیفه اصلی معاونت علمی ریاست جمهوری است و در این راستا برنامه ستاد توسعه هوش مصنوعی این معاونت کمک به دانشگاه‌ها، محققان و شرکت‌های دانش بنیان برای توسعه فناوری‌ها و کاربست هوش مصنوعی در ایران با استفاده از ابزار اپراتور است.

وی ادامه داد: پیش بینی می‌شود امسال جریان اکوسیستمی هوش مصنوعی در کشور راه می‌افتد و به صدها جی پی یو (GPU واحدهای پردازش گرافیک) دست پیدا می‌کنیم.

رئیس بنیاد ملی نخبگان به رایزنی با رئیس جمهور و بسیاری دستگاه‌ها از جمله سازمان برنامه و بودجه برای راه اندازی مرکز توسعه هوش مصنوعی در کشور و در کنار آن شورای راهبری هوش مصنوعی اشاره کرد و و یادآور شد: برای این کار مدل‌های مختلف در بسیاری کشورها بررسی شد.

دهقانی فیروزآبادی خاطرنشان کرد: بررسی‌ها نشان داد که بعضاً برخی کشورها وزارتخانه و برخی هم شورای راهبری برای هوش مصنوعی ذیل ریاست جمهوری ایجاد کرده‌اند.

اساسنامه مرکز ملی هوش مصنوعی در حال تدوین

وی افزود: با ساعت‌ها رایزنی و مشورت با متخصصان و صاحب‌نظران هوش مصنوعی و شبکه‌ها به این جمع بندی رسیدیم که در کشور باید یک مرکز تحت عنوان مرکز ملی هوش مصنوعی داشته باشیم تا وظیفه کلانی را در این حوزه از جمله نظارت و تنظیم گری و همچنین توسعه زیرساخت‌های کلان عهده دار شود و شورایی هم به عنوان راهبر و هیأت امنا بالا سر این مجموعه شکل بگیرد.

معاون علمی رئیس جمهور یادآور شد: اسفندماه ۱۴۰۲ مرکز ملی هوش مصنوعی تأسیس شد و حکم ریاست آن نیز توسط رئیس جمهور صادر شد و اعضای شورای راهبری این مرکز نیز معرفی شدند، اساسنامه مرکز ملی هوش مصنوعی د رحال حاضر در شورای عالی انقلاب فرهنگی در حال تنظیم آست.

دهقانی فیروزآبادی تاکید کرد: این مرکز در حوزه هوش مصنوعی فراتر از معاونت علمی ریاست جمهوری است و همه دستگاه‌ها در قبال این مرکز از یک مأموریت اختصاصی برخوردار هستند.

وی از برگزاری جلسات مختلف با طرف‌های تأثیرگذار در حوزه هوش مصنوعی همچون سرمایه گذاران مختلف، بخش‌های دولتی و صندوق‌ها خبر داد و تصریح کرد: در این راستا صندوق پژوهش و فناوری توسعه هوش مصنوعی نیز تصویب و دایر شد.

رئیس بنیاد ملی نخبگان با بیان اینکه این صندوق با سرمایه ۱۰ هزار میلیارد تومانی برای فعالیت برنامه ریزی شده است، افزود: بخش خوبی از این سرمایه را نهادهایی مثل صندوق توسعه ملی و چندین مودی مالیاتی بزرگ در حوزه اپراتورها تقبل کرده‌اند که پرداخت کنند بنابراین اقدامات عملیاتی بسیار خوب پیش رفته است و برنامه ریزی ها این است که مرکز ملی هوش مصنوعی در اولین گام یک کاربر هوش مصنوعی یا اصطلاحاً یک اپراتور هوش مصنوعی در کشور راه اندازی کند.

دهقانی فیروزآبادی ادامه داد: طبق برنامه ریزی انجام شده این اپراتور هوش مصنوعی سه خدمت اصلی را عرضه می‌کند، یعنی یک مزرعه پردازشی بزرگ که چگونگی ابعاد و اندازه آن در حال بحث است. یک مرکز داده یا دیتا سنتر بزرگ برای تولید داده‌ها و همچنین کتابخانه بزرگ زبانی و تصویری که اینها مجموعه‌هایی هستند که قرار است در اپراتور اصلی مدیریت شوند.

معاون علمی، فناوری و اقتصاد دانش بنیان رئیس جمهور در بخش دیگری از این نشست خبری در پاسخ به این سوال که تدوین و اجرای نظام ارزیابی دانش بنیان‌ها چه تغییری در اکوسیستم و زیست بوم حوزه دانش بنیان‌های کشور ایجاد کرده است، گفت: در نظام جدید ارزیابی دانش بنیان‌ها، علاوه بر سطح فناوری، میزان اشتغال تخصصی و گردش مالی شرکت‌ها مورد سنجش قرار می‌گیرد و شرکت‌های فناور بر این اساس به شرکت‌های نوپا، نوآور و فناور تقسیم می‌شوند.

دهقانی فیروزآبادی در مورد اینکه گفته شده این همان سیستم دسته بندی نوع یک، دو و سه سابق است، تاکید کرد: مطلقاً این صحبت اشتباهی است چراکه قبل از این مجموعه‌های فناور تنها براساس فناوری دسته بندی می‌شدند.

وی اظهار داشت: نظام ارزیابی جدید مجموعه‌های فناور در حال حاضر به یک ابزار جدی برنامه ریزی و مدیریت تسهیلات برای ساز و کارهای حمایتی برای معاونت علمی تبدیل شده است و اینکه می‌گوئیم ۷ هزار از مجموعه‌های فناور ما شرکت نوپا و قریب به ۸۰۰ تا هزار فناور هستند و ۲ هزار نوآور هستند، یک دید واقعی به ما می‌گوید که حجم اقتصاد و حجم صادراتی کشور در چه مرحله و شرایطی است برای یک برنامه ریزی جدی از سوی معاونت علمی است.

رئیس بنیاد ملی نخبگان با بیان اینکه در سه ماه آینده بحث ارزیابی مجموعه‌های فناور به شکل اساسی به روز رسانی می‌شود و ارزیابی‌ها توسط پارک‌ها انجام و آسان گیرانه تر و بعضاً غیرحضوری خواهد بود، افزود: هم اکنون ۱۰ پارک علم و فناوری در کشور کارگزار معاونت علمی ریاست جمهوری در شرکت‌های نوپا فعالیت می‌کنند.

دهقانی فیروزآبادی در عین حال تاکید کرد: تمرکز ارزیابی‌های جدی و حضوری بر روی شرکت‌های نوآور و فناوری خواهد بود که بازی اصلی دست آنها است.

وی پیش بینی کرد امسال علاوه بر متوازن شدن نظام حمایت از مجموعه‌های فناور و واقعی شدن ارزیابی‌ها، حداقل یک هزار شرکت جدیدی از شرکت‌هایی که قبلاً در پارک‌ها بوده‌اند به شرکت‌های دانش بنیان نوپا تبدیل می‌شوند.

۱۰۸ شرکت دانش‌بنیان در بورس حضور دارند؛ امیدواریم تا آخر سال حداقل رشد ۱۰۰ درصدی را تجربه کند

دهقانی فیروزآبادی در ادامه نشست خبری از حضور ۱۰۸ شرکت دانش‌بنیان در بورس خبر داد و گفت: امیدواریم تا آخر سال حداقل رشد ۱۰۰ درصدی را تجربه کنند

وی افزود: یکی از مراحل بلوغ بعضی از شرکت‌های دانش‌بنیان عرضه شدن آنها در بازار سرمایه و مشارکت آنها توسط سرمایه مردم است.، لزومی ندارد یک شرکت دانش بنیان برای ورود به بورس به معاونت علمی ریاست جمهوری مراجعه کند.

معاون علمی، فناوری و اقتصاد دانش بنیان رئیس جمهور ادامه داد: وقتی بحث کلان داده‌ها مطرح می‌شود یا بحث داده‌های مرتبط با مردم یا امنیت مردم مرتبط می‌شود، صلاحیت شرکت‌ها برای ورود به بورس در یک کارگروهی که در معاونت علمی ریاست جمهوری تشکیل شده، مورد بررسی و ارزیابی قرار می‌گیرد.

کد خبر 748400