ChatGPT چیست؟
سازندگان ، ChatGPT را به عنوان “هوش مصنوعی آموزش دیده برای کمک به انواع وظایف” تعریف می کنند. در اصل،ChatGPT یک ربات چت مبتنی بر هوش مصنوعی است که می تواند به درخواست کاربران،پاسخ های طبیعی را ایجاد کند. ChatGPT توسط یک الگوریتم یادگیری ماشینی که بر روی میلیون ها سند آموزش داده شده است، پشتیبانی می شود.
ChatGPT توسط شرکت OpenAI که یک شرکت تحقیقاتی و هوش مصنوعی است ایجاد شده است. نسخه‌های ساده‌تر هوش مصنوعی مبتنی بر زبان سال‌هاست که در دسترس عموم قرار گرفته‌اند، اما ChatGPT پیشرفته‌ترین نسخه تاکنون است.
ChatGPT مخفف چیست؟
ChatGPT به دلیل مدل زبانی که استفاده می‌کند، می‌تواند متنی با صدای انسان تولید کند و با مردم چت کند (از این رو در نام آن، «چت» ذکر شده است). همچنین GPT در ChatGPT مخفف Generative Pre-trained Transformer است.
ChatGPT چه کاری می تواند انجام دهد؟
ChatGPT با قابلیت‌های پردازش زبان طبیعی قدرتمند و توانایی آن در ایجاد پاسخ‌های شخصی‌سازی شده سریع، می‌تواند در انواع تنظیمات تجاری مانند خدمات مشتری، پشتیبانی مشتری، اتوماسیون بازاریابی و موارد دیگر استفاده شود. بسیاری پیش بینی می کنند که ChatGPT تجارت را متحول خواهد کرد، حتی اگر هنوز تاثیر دقیق یا کامل آن مشخص نشده باشد.
این ابزار برای کاربران مستقل نیز مفید است. موارد استفاده از ChatGPT برای افراد ممکن است شامل موارد زیر باشد:
-
خلاصه کردن یک سند با نکات یا اقدامات کلیدی
-
ترجمه متن به زبان های دیگر
-
نوشتن یا اشکال زدایی کد
-
پاسخگویی به سوالات خاص
-
توضیح نحوه انجام وظایف خاص
-
نوشتن موسیقی یا شعر
ChatGPT را می توان به چندین زبان استفاده کرد و بیشتر در سراسر جهان در دسترس است (اگرچه در برخی کشورها به دلیل قوانین حفاظت از داده ها ممنوع است). از آنجایی که پاسخ‌های ChatGPT توسط یک مدل زبان هوش مصنوعی تولید می‌شوند، همیشه دقیق یا کامل نیستند. مهم است که اطلاعاتی که ChatGPT ارائه می‌کند را ارزیابی کنید و در صورت لزوم با منابع دیگر مشورت کنید.
آیا ChatGPT ایمن است؟
یک موضوع کلیدی این است که آیا مدل های زبان هوش مصنوعی مانند ChatGPT می توانند به روش های آسیب زا مورد استفاده قرار گیرند یا خیر. خطرات امنیتی بالقوه ChatGPT عبارتند از:
هرزنامه و فیشینگ
یکی از رایج ترین تهدیدات آنلاین فیشینگ است. کلاهبرداری های فیشینگ اغلب به راحتی قابل تشخیص هستند، زیرا ممکن است حاوی اشتباهات املایی، دستور زبان ضعیف و عبارت های نامناسب باشند. این نوع از کلاهبرداری معمولاً زمانی اتفاق می‌افتد که کلاهبرداران در حال ایجاد پیام به زبانی هستند که زبان اصلی آنها نیست.
ChatGPT اکنون به کلاهبرداران در سراسر جهان تسلط بالایی به زبان انگلیسی (و سایر زبان‌ها) می‌دهد – به بهبود پیام‌های فیشینگ آنها کمک می‌کند و بنابراین تشخیص آنها را سخت‌تر می‌کند.
همچنین این امکان وجود دارد که کلاهبرداران بتوانند از فناوری OpenAI برای ایجاد یک ربات چت خدمات مشتری جعلی متقاعد کننده استفاده کنند – که می تواند این پتانسیل را داشته باشد که افراد را فریب دهد .
همچنین بخوانید: نشانه های جعلی بودن یک فروشگاه اینترنتی
افشای اطلاعات
در مارس 2023، OpenAI خالق ChatGPT مشکلی را شناسایی کرد و ChatGPT برای چند ساعت خاموش بود. در آن زمان، چند کاربر ChatGPT سابقه مکالمه سایر کاربران را مشاهده کردند. همچنین گزارش‌هایی وجود داشت مبنی بر اینکه اطلاعات مربوط به پرداخت از سوی مشترکین ChatGPT-Plus (که برای نسخه پیشرفته برنامه پرداخت می‌کنند) ممکن است به بیرون درز کند.
OpenAI گزارشی در مورد این حادثه منتشر کرد و به علت مشکل پرداخت. با هر سرویس آنلاین، خطر افشای تصادفی و نقض امنیت سایبری توسط تعداد فزاینده هکرها وجود دارد.
نگرانی های مربوط به حریم خصوصی
احتمال سوء استفاده از اطلاعات یک نگرانی موجه است . پرسش‌های متداول ChatGPT نشان می‌دهد که نباید اطلاعات حساس را به اشتراک بگذارید و به کاربران هشدار می‌دهد که درخواست‌ها را نمی‌توان حذف کرد. همان پرسش‌های متداول بیان می‌کند که ChatGPT مکالماتی را که توسط OpenAI برای اهداف آموزشی بررسی می‌شوند، ذخیره می‌کند.
انتشار اخبار جعلی و اطلاعات نادرست
در دنیایی که اطلاعات نادرست و اخبار جعلی می توانند به سرعت در فضای مجازی پخش شوند، برخی نگرانند که ChatGPT می تواند به این مشکل کمک کند. پاسخ‌های ChatGPT بر اساس اطلاعاتی است که بر روی آن آموزش دیده است و بیشتر آن از اینترنت گرفته شده است.
سپس برنامه دنباله ای از کلمات را ایجاد می کند که احتمالاً به عنوان پاسخ به کنار یکدیگر می آیند. از آنجایی که هم اطلاعات نادرست و هم اطلاعات ناقص در اینترنت وجود دارد، زمینه های پاسخگویی با اطلاعات نادرست در ChatGPT نیز وجود دارد.
پتانسیل سوگیری
حتی اگر اطلاعات این هوش مصنوعی صحیح باشد، ممکن است یک سوگیری سیاسی یا نوع دیگری را نشان دهد. مانند هر مدل یادگیری ماشینی، ChatGPT سوگیری های داده های آموزشی خود را منعکس می کند. اگر آن داده‌ها مغرضانه باشند، خروجی‌های آن نیز ممکن است سوگیری داشته باشند – با پتانسیل پاسخ‌های ناعادلانه، تبعیض‌آمیز یا حتی توهین‌آمیز.
گزارش شده است که ChatGPT اقداماتی را برای اجتناب از پاسخ دادن به سوالات سیاسی انجام داده است – اما ارزش دارد هنگام استفاده از این سرویس از سوگیری احتمالی آگاه باشید.
سرقت هویت و جمع آوری اطلاعات
عوامل مخرب می توانند از ChatGPT برای جمع آوری اطلاعات برای اهداف مضر استفاده کنند. از آنجایی که این ربات بر روی حجم زیادی از داده ها آموزش دیده است، اطلاعات زیادی را می داند که در صورت قرار گرفتن در دستان اشتباه می تواند به منظور آسیب به دیگران استفاده شود.
به عنوان مثال، در یک نمونه از ChatGPT خواسته شد تا سیستم فناوری اطلاعات یک بانک خاص را فاش کند. این ربات با جمع‌آوری اطلاعات در حوزه عمومی، سیستم‌های فناوری اطلاعات مختلفی را که بانک مورد نظر استفاده می‌کند فهرست کرده است.
برای رفع این نگرانی ها، OpenAI اقداماتی را برای اطمینان از ایمن بودن مدل های زبان خود انجام داده است. این اقدامات شامل ایجاد کنترل‌های دسترسی سختگیرانه برای جلوگیری از ورود افراد بدون مجوز به سیستم‌های آن و همچنین تعیین قوانین اخلاقی برای توسعه و استفاده از هوش مصنوعی است.
این قوانین شامل تعهد به استفاده مسئولانه از فناوری و همچنین شفافیت و انصاف است.
فریب ChatGPT برای نوشتن کدهای مخرب
ChatGPT می تواند کد تولید کند و هوش مصنوعی طوری برنامه ریزی شده است که کد مخرب یا کدی را که برای اهداف هک در نظر گرفته شده است تولید نکند. اگر کد هک درخواست شود، ChatGPT به کاربران می‌گوید که هدف آن «کمک به انجام وظایف مفید و اخلاقی با رعایت دستورالعمل‌ها و خط‌مشی‌های اخلاقی است».
با این حال، دستکاری ChatGPT غیرممکن نیست و با دانش و خلاقیت کافی، افراد بد نیت به طور بالقوه می توانند هوش مصنوعی را برای تولید کد هک فریب دهند.
احتمال هک شدن ChatGPT کمتر مورد بحث است – اگر این اتفاق بیفتد، عوامل تهدید می توانند از آن برای انتشار اطلاعات نادرست استفاده کنند.
