הכלי, Voice Engine, מדמה קולות של אנשים על בסיס הקלטה של 15 שניות בלבד. יחד עם זאת, יש חשש בחברה שזה יוביל להפצת מידע מטעה, במיוחד במהלך מערכות בחירות: "אנו מקווים לבחון את השילוב שלו באופן אחראי"
OpenAI, מעבדת המחקר המובילה המוכרת לנו מ-ChatGPT, פיתחה כלי מהפכני נוסף המכונה Voice Engine. כלי זה מסוגל לשכפל קולות אנושיים בדיוק רב באמצעות דגימת קול של 15 שניות בלבד. עם זאת, למרות הפוטנציאל לשנות את עולם סינתזת הקול, OpenAI החליטה שלא לשחרר את הטכנולוגיה הזו לציבור בשלב זה. ההחלטה נבעה מדאגה לשימוש לרעה שעלול להפיץ מידע מטעה, במיוחד במהלך מספר רב של מערכות בחירות שתתקיימנה השנה ברחבי העולם, כפי שדווח בעיתון The Guardian.
בהתאם למחויבות של OpenAI לבטיחות בתחום הבינה המלאכותית ולסטנדרטים אתיים, החברה בחרה להציג את יכולות הטכנולוגיה ללא שיווק מלא שלה. הם מקווים שגישה זו לא רק תציג את הפוטנציאל של הטכנולוגיה אלא גם תשמש כגורם מאיץ לחיזוק העמידות החברתית נגד האתגרים הטמונים במודלים גנרטיביים משכנעים.
ההצהרה מצד OpenAI כללה דוגמאות לשימושים חיוביים של הטכנולוגיה בחברות שונות. לדוגמה, חברת הטכנולוגיה החינוכית Age of Learning משתמשת ב- Voice Engine כדי ליצור קריינות לשיעורים. באופן דומה, האפליקציה HeyGen מאפשרת למשתמשים לייצר תוכן מוקלט ומתורגם ששומר על המבטא והקול המקורי, כמו למשל המרת הקלטה של דוברת צרפתית לאנגלית תוך שמירה על מבטא צרפתי.
יישום נוסף שצוין על ידי OpenAI הוא שימוש של חוקרים במכון נורמן פרינס למדעי המוח ברוד איילנד, שהשתמשו בכלי כדי לשחזר את הקול של אישה שאיבדה אותו בשל גידול במוח, באמצעות הקלטה באיכות נמוכה.
למרות היישומים החיוביים הללו, OpenAI מזהירה מפני השימוש בזיהוי קול כאמצעי ביטחון לגישה לחשבונות בנק ולמידע רגיש אחר. החברה קוראת לפיתוח קווי מדיניות להגנה על השימוש בקולות ב-AI ולחינוך הציבור להבין את היכולות והמגבלות של טכנולוגיית הבינה המלאכותית, כולל האפשרות של תכנים מטעים שנוצרו על ידי AI.
OpenAI מדגישה את החשיבות של הסכמה מפורשת ומודעת מהדובר המקורי לפני שימוש בקולו. החוזים של החברה עם שותפים דורשים סכמה כזו, והם אינם מאפשרים למפתחים ליצור דרכים למשתמשים ספציפיים ליצור קולות משלהם. בנוסף, המוצרים של Voice Engine כוללים סימני מים שנועדו לזהות אותם כנוצרים על ידי AI, ובכך להבטיח שקיפות ואחריות בשימוש בהם.
