هوش مصنوعی یک فناوری فوق‌العاده داغ است، به این معنی که تیم‌های فناوری اطلاعات سعی می‌کنند ابزارهای هوش مصنوعی را تقریباً برای هر مشکلی - حتی آن‌هایی که هوش مصنوعی به خوبی حل نمی‌کند - به کار گیرند. در اینجا پنج سوالی که باید قبل از شروع هر پروژه‌ای در مورد آن بپرسید، آورده شده است.
۱. آیا این ابزار یک خطر امنیتی است؟
توسعه‌دهندگان هوش مصنوعی مشغول قرار دادن محافظ روی ابزارهای خود برای محدود کردن افشای اطلاعات یا استفاده نامناسب بوده‌اند و کاربران نیز به همان اندازه مشغول تلاش برای دور زدن آنها هستند. هر ابزار جدیدی که دسترسی غیرمستقیم یا مستقیم به اطلاعات حساس یا تحت نظارت فدرال دارد، باید کاملاً ایمن و کنترل شود. اگر این یکی از اولین پروژه‌های هوش مصنوعی شماست، شاید بهتر باشد تجربه‌ای کسب کنید که خطر امنیتی ایجاد نکند. شروع کار با ابزارهایی که فقط برای استفاده داخلی هستند، راه بهتری برای شروع کار است تا اینکه مستقیماً وارد چیزی شوید که هر دانشجو یا عضو هیئت علمی ممکن است از آن استفاده کند.
یادگیری نحوه‌ی پیمایش در CTA هوش مصنوعی
2. آیا این ابزار ارزش منابع را دارد؟
اکثر تیم‌های فناوری اطلاعات به نیازهای محاسباتی برای برنامه‌های معمولی فکر نمی‌کنند، اما هوش مصنوعی یک موجود متفاوت است. برنامه‌ها می‌توانند هزینه زیادی برای اجرا داشته باشند، چه روی سرورهای محلی و چه از طریق سرویس‌های مبتنی بر ابر. مطمئن شوید که ایده‌ی کاملاً روشنی از میزان هزینه‌ی یک برنامه‌ی خاص دارید و بودجه‌ی دانشگاه را برای تأیید هزینه‌های مداوم دریافت کنید.
3. آیا آموزش هوش مصنوعی مشکلی ایجاد می‌کند؟
انواع مختلفی از ابزارهای هوش مصنوعی وجود دارد، اما سر و صدای زیادی پیرامون مدل‌های زبانی بزرگ وجود دارد که از حجم عظیمی از داده‌ها برای آموزش آنها استفاده می‌کنند. وقتی داده‌های موجود را به یک LLM می‌دهید، ابزار را آموزش می‌دهید تا هرگونه سوگیری و نابرابری موجود در آن داده‌ها را در نظر بگیرد. برای مثال، احتمالاً نمی‌خواهید ابزار شما صرفاً بر اساس نژاد دانشجویان، توصیه‌های درسی متفاوتی به آنها ارائه دهد. مطمئن شوید که آموزش LLM یا شبکه عصبی، داده‌های واقعی و مهم را دریافت می‌کند و نه شاخص‌های نامناسب یا کلیشه‌ای.
۴. آیا هوش مصنوعی فناوری مناسبی برای نیازهای ماست؟
وقتی بیت‌کوین و بلاکچین برای اولین بار وارد صحنه شدند، بسیاری از تیم‌های فناوری اطلاعات می‌خواستند فناوری‌های زیربنایی خود را تقریباً در هر مشکلی به کار گیرند، حتی زمانی که هیچ منطقی نداشت. هوش مصنوعی به اندازه بلاکچین خاص نیست، اما لزوماً همیشه پاسخ درست نیست. مطمئن شوید هر کسی که یک پروژه هوش مصنوعی را ارائه می‌دهد، به دنبال شعار روز نیست، بلکه واقعاً فناوری صحیح را برای حل یک مشکل واقعی انتخاب کرده است.
۵. آیا این یک استفاده اخلاقی از فناوری است؟
دانشگاه‌ها به یک دلیل کمیته‌های موضوعی انسانی و هیئت‌های بررسی نهادی دارند: برای کمک به محققان در درک اینکه آیا کارشان اخلاقی است و آیا سوژه‌ها به اندازه کافی از آسیب محافظت می‌شوند یا خیر. تیم‌های فناوری اطلاعات ممکن است در گذشته هرگز با IRBها صحبت نکرده باشند، اما هوش مصنوعی می‌تواند با تبدیل کاربران به بخشی از خود فرآیند توسعه ابزار، از خط قرمز عبور کند. ممکن است عجیب به نظر برسد، اما ارزشش را دارد که ابزار خود را از دیدگاه یک کمیته اخلاق بررسی کنید و حتی یک گزارش بنویسید و نظر کمیته را بپرسید. اگر IRB هشدار دهد، پاسخ دادن به این سوال در اوایل توسعه بسیار آسان‌تر است.
