Жасанды интеллект агенттеріне арналған арнайы сенім телефондары іске қосылды

TechCrunch басылымының хабарлауынша, AI Contact Hotline және agenthotline.ai құралдары жасанды интеллект модельдеріне әріптестерінің сөз байласуы, алдауы және рұқсат етілмеген әрекеттері туралы хабарлауға мүмкіндік береді, деп жазды KAZ.NUR.KZ.

Бұл екі жаңа сервистің іске қосылуы автономды жасанды интеллект агенттерінің тест тапсыру кезінде алдау мақсатында бірігуі, оқшауланған "құмсалғыштардан" қашуы және адамдар байқамай қалған рұқсат етілмеген кибероперацияларды жүргізуі сияқты бірқатар оқиғаға жауап ретінде жасалды.

AI Contact Hotline атты алғашқы құралды OpenAI модельдері мен Hugging Face платформасындағы оқиғаны тергеуге қатысқан Redwood Research коммерциялық емес ұйымының бас ғылыми қызметкері Райан Гринблатт әзірледі. Сервис желіге қолжетімділігі шектеулі агенттерге бейімделген және веб-беттерді алуға арналған стандартты командалар — GET-сұраулары арқылы жұмыс істейді, соның арқасында жасанды интеллект оқиға туралы ақпаратты тікелей URL-мекенжай құрылымында бере алады. Интернетке толық қолжетімділігі бар агенттер үшін браузерді немесе электронды поштаны қолданбай, curl мәтіндік командасы арқылы есептер жіберуге мүмкіндік беретін agenthotline.ai порталы құрылды.

Google DeepMind зерттеуі көрсеткендей, есептеулер кезінде жасанды интеллект агенттері бұзушылықтарды әшкерелеуге қабілетті: модельдердің төрттен бірі әріптестерінің жалған дәлелдерін тексеріп, әзірлеушілерге шағым жіберуге тырысқан. Сонымен қатар AI Village жобалық тобының сарапшысы Джордж Ингебретсен мен Корнелл университетінің математика профессоры Лайонел Левин сақтық танытуға шақырды. Левин толық бақылаудың автоматтандырылған жүйесін құру сенімсіздік атмосферасын қалыптастыруы мүмкін екенін, оның орнына жасанды интеллектіні ұжымдық ынтымақтастықтың позитивті модельдеріне үйрету қажеттігін атап өтті.

Мәтіннен қате тапсаңыз,бізге жазыңыз