הבינה המלאכותית הכניסה את תעשיית הוצאות הספרים לכאוס

זמן קצר לאחר שהשיגו לספר ביכורים עסקה בשווי מיליוני דולרים, הסוכנים החליטו לבטל אותה. לדבריהם, הם כבר לא יכלו לתמוך בפרויקט, משום שלא הצליחו לוודא שהספר נכתב במלואו בידי הלקוח שלהם.

"זה מעלה כל כך הרבה שאלות על מושג המחבר ועל משמעותה של בינה מלאכותית עבור התעשייה הזאת", כתבה הסוכנות Europa Content למו"לים במכתב ששלחה ביולי, לאחר שעלו טענות בדבר שימוש בבינה מלאכותית ברומן הפשע Call Me, I’ll Hide the Body מאת ג'רי פלאדה. "אבל אלה שאלות ליום אחר".

● כך הפך גיל המעבר לשוק לוהט
● "גם זוג שמכניס 40 אלף שקל נטו מחפש הוזלות": המועדון הסגור של ההייטק
● "קשרים? מה שאנשים ימצאו ברייכמן זה בני ובנות זוג"

אלא שבתקופה שבה בכל חודש, כך נדמה, מטלטלת את ענף ההוצאה לאור שערוריית AI חדשה, נעשה קשה לדחות לעתיד הרחוק את השאלות בנוגע להשפעתה. קריסתן המתוקשרת של עסקאות ספרים גדולות בשל חשד לשימוש בבינה מלאכותית והחששות מי יהיה הבא בתור מביאים לחשבון נפש בנוגע למהות הכתיבה, היחסים בין סופרים למו"לים ויכולת ההישרדות של הענף בטווח הארוך. אבל נראה כי איש לא מצליח להסכים - מי בדיוק אחראי לפתור את הבעיה הזאת ואפילו לא באיזו מידה באמת מדובר בבעיה.

בשנה שעברה 70 סופרים, בהם מרגרט אטווד וג'ונתן פראנזן, חתמו על מכתב פתוח למו"לים שבו הביעו את חששותיהם מפני בינה מלאכותית יוצרת וביקשו מהם "להתחייב שלעולם לא יפרסמו ספרים שנוצרו בידי מכונות". אלא שחמש הוצאות הספרים הגדולות - סיימון אנד שוסטר, פינגווין רנדום האוס, הרפר קולינס, האשט בוק גרופ ומקמילן - נמנעו מהצהרות גורפות בנוגע לטכנולוגיה, שגם טומנת בחובה פוטנציאל לרווחים וגם הופכת לנפוצה יותר ויותר (רבות מהן גם מעורבות בתביעות נגד חברות טכנולוגיה, בטענה שאלה אימנו את המודלים שלהן על ספרים המוגנים בזכויות יוצרים).

במקום זאת הן מוצאות את עצמן ממהרות לכבות שריפות בכל פעם ששערורייה הנוגעת לשימוש ב-AI גורמת נזק תדמיתי גדול מכפי שאפשר להתעלם ממנו.

פלאדה, סטודנט לתואר מתקדם באוניברסיטת סאות'רן מתודיסט, הכחיש את הטענות בנוגע לרומן שלו ואמר שהן נובעות ממניעים גזעניים. "כל זה פשוט היה נורא עבורי", אמר בראיון בחודש שעבר. "לא הצלחתי לישון כמו שצריך, לא הצלחתי לאכול".

במרץ האשט ביטלה את הוצאתו לאור בארה"ב של Shy Girl מאת מיה באלארד, בעקבות טענות שלפיהן הסופרת השתמשה ב-AI בתהליך הכתיבה. רומן האימה עוסק באישה המוחזקת בשבי בידי גבר שהכירה באינטרנט ונאלצת לחיות כחיית המחמד שלו.

באלארד, שפרסמה במקור את הרומן באופן עצמאי לפני שהאשט רכשה את הזכויות עליו, הכחישה את הטענות ואמרה כי מי שהשתמש בבינה מלאכותית היה מכר שלה שערך את הספר. "האשט נותרה מחויבת להגנה על ביטוי יצירתי מקורי ועל אמנות הסיפור", מסרה אז ההוצאה.

ביולי פרסם האטלנטיק כי Daggermouth, רומן דיסטופי שיצא בהוצאה עצמית וזכויותיו נחטפו במהירות בידי סיימון אנד שוסטר, אשר מככב בעקביות בראש רשימות רבי־המכר, מכיל סימנים המעידים על שימוש ב-AI. הכתבה הסתמכה על מאמר אקדמי של טוהין צ'קרברטי, פרופסור באוניברסיטת סטוני ברוק, שבמסגרתו נבדק הספר באמצעות Pangram, כלי לזיהוי תוכן שנוצר בטכנולוגיה. המאמר טרם עבר ביקורת עמיתים, והסופרת הכחישה את הטענות ואמרה בפומבי כי לדעתה אין מקום לבינה מלאכותית יוצרת בתהליך הכתיבה.

"לדעתנו, אין להסיק מסקנות בנוגע ליצירתו של סופר על סמך כלים לזיהוי AI, שכבר הוכח כי הם עלולים לספק זיהוי שגוי", אמר דובר סיימון אנד שוסטר. "ה' מ' וולף כתבה את Daggermouth, ואנחנו עומדים מאחוריה ומאחורי יצירתה".

 פוסט של הסופרת ה' מ' וולף עם צאת ספרה Daggermouth. זוהו סימני AI, אך היא מכחישה / צילום: צילום מסך אינסטגרם

"מנקה רפש AI"

מקס ספרו, מנכ"ל Pangram, ממייסדי החברה ומי שמכנה את עצמו "מנקה רפש AI", ציין כי שיעור הדיוק הגבוה של הכלי אומת בכמה מחקרים של גורמים חיצוניים.

"למה שסיימון אנד שוסטר יוותרו עליו? הרי הוא כבר זכה להצלחה אדירה. כלומר, אנשים אהבו אותו", אמר צ'קרברטי. "יש כאן סוגיה רחבה יותר הנוגעת להיבט המסחרי של ספרות שנוצרת באמצעות בינה מלאכותית יוצרת, ואז נשאלת השאלה: האם אותם ארגונים באמת מעוניינים לעמוד בסטנדרט הזה?".

מו"לים, שנואשים למצוא להיטים בתקופה שבה אנשים קוראים פחות ופחות, מחפשים לא פעם יצירות שפורסמו באופן עצמאי וכבר הצליחו למצוא לעצמן קהל. לדברי סוכנים ועורכים, השימוש ב-AI נפוץ במיוחד בקטגוריה הזאת. אבל סופרים שמוציאים לאור באופן עצמאי רחוקים מלהיות היחידים שמשתמשים בכלים האלה.

הסופר סטיבן רוזנבאום ספג ביקורת במאי, לאחר שהניו יורק טיימס גילה כי כלל בספרו The Future of Truth: How AI Reshapes Reality ציטוטים שהומצאו בידי AI. ספריו של רוזנבאום מתפרסמים תחת אחד המותגים של BenBella Books. רוזנבאום ציין בגלוי, בחלק התודות, כי השתמש במודלי שפה גדולים כמקור עזר.

"בהתחשב במהירות שבה נעים העולם ועולם המו"לות זה נראה בלתי נמנע שעוד מקרים כאלה יתרחשו", אמר פול בוגארדס, מנהל ותיק בתחום יחסי הציבור והשיווק של ספרים. לדבריו, מו"לים שואלים "אילו אמצעי הגנה אנחנו צריכים לנקוט כדי למנוע מדבר כזה לקרות לנו שוב?".

בכיר בהוצאת ספרים מבין החמש הגדולות אמר כי היא החליטה שלא להוסיף לחוזים סעיפים הנוגעים לבינה מלאכותית, נוכח השינויים המהירים בתחום, וכי הנורמות משתנות בין החטיבות השונות ובין עורכים.

"בינה מלאכותית אינה תחליף ליצירתיות אנושית", אמר דובר פינגווין רנדום האוס. "אנחנו רואים בה כלי שיכול לסייע בתהליכי עבודה מסוימים בהוצאה לאור, אך לא תחליף לסופרים, למאיירים, לאנשי מקצוע בתחום המו"לות או לחשיבה ולשיקול הדעת האנושיים שמעצבים את הספרים שלנו".

אנדי האנטר, מייסד ומנכ"ל Bookshop.org, סבור שהוויכוחים סביב השאלה היכן עובר הגבול בכל הנוגע לשימוש של סופרים עצמם ב-AI - מסיטים את תשומת הלב מבעיה גדולה הרבה יותר: המבול של ספרי זבל שמציף את האינטרנט.

"כנראה 99% מהספרים האלה נועדו להטעות לקוחות ולגרום להם לקנות משהו שהוא מועתק, מלא במידע שגוי או מכיל תוכן דל להחריד שנוצר באמצעות מודל שפה גדול", אמר האנטר.

המחקר של צ'קרברטי מצא גם כי ב־20% מהספרים האלקטרוניים של אמזון שנכללו במאגר הנתונים שלו נעשה שימוש "משמעותי" ב-AI. הקמעונאית המקוונת מסרה כי היא נוקטת צעדים להסרת תוכן שמפר את הכללים שלה.

להצהיר "נכתב בידי אדם"

ג'יימס דאונט, מנכ"ל בארנס אנד נובל, ספג ביקורת לאחר שאמר בתוכנית Today בחודש מאי כי אם לקוחות ירצו לקנות ספרים שנוצרו באמצעות AI, "אז נחזיק אותם במלאי". בראיון הוא הבהיר את דבריו: "לפני כן אמרתי שכרגע אנחנו לא עושים זאת", הסביר. "אנחנו עושים מאמצים רבים כדי לא למכור אותם". בארנס אנד נובל מסירה ספרים מהחנות המקוונת שלה אם מתברר שהם נוצרו באמצעות AI.

"הספרים שאני רוצה להוציא לאור הם כאלה שאומרים משהו מקורי ושונה ממה שכבר קיים בעולם, ואני לא חושבת ש-AI תצליח ליצור ספרים כאלה", אמרה סינדי שפיגל, מנכ"לית משותפת של הוצאת הספרים העצמאית Spiegel and Grau. אבל "אם תגיע יצירה יוצאת דופן באמת, שתהיה משמעותית בעיניי ושאפיק ממנה משהו, אז אני חושבת שכדאי שהיא תהיה חלק ממגוון הספרים שלנו". עם זאת, לדבריה, יצירות כאלה צריכות תמיד לכלול גילוי נאות ברור.

נכון לעכשיו דעת הקהל עדיין מתנגדת ברובה לשימוש ב-AI ליצירת טקסט, אף שהשימוש בה לצורכי מחקר ובניית מתווה לספרים נעשה מקובל יותר. אם יתברר שאנשים מוכנים לקרוא ספרים שנוצרו בעזרת בינה מלאכותית או בסיועה, במיוחד בז'אנרים כמו פנטזיה ומדע בדיוני, שבהם הקוראים בולעים ספרים בקצב מהיר, מו"לים לא יוותרו על מקור הכנסה אפשרי בעולם שבו מקורות כאלה אינם רבים.

"אין כרגע סטנדרטים ברורים בנושא", אמרה אמנדה אניס, סוכנת ב־Trident Media Group. "יש פשוט כל כך הרבה תחומים אפורים שעדיין לא התבהרו".

בניסיון להתמודד עם מבול ספרי הזבל השיקה אגודת הסופרים תו "נכתב בידי אדם", שמחברים יכולים להוסיף לספריהם לאחר שהם חותמים על הצהרה המאשרת זאת. אלא שיש מי שסבורים שכל מנגנון שמסתמך על יושרם של המשתתפים אינו מספק כלים אפקטיביים להתמודדות עם בעיה רחבת היקף כל כך.

תעשיית הספרים התבססה מאז ומתמיד על אמון. עורכים מסתמכים על סופרים שיצהירו כי יצירותיהם מדויקות ומקוריות. היעדר מנגנוני הגנה מוסדיים עולה לדיון בכל פעם שמתעוררת שערוריית גניבה ספרותית, או כשאמיתותו של ספר זיכרונות מוטלת בספק, ורבים חוששים ש-AI תהיה מבחן לחץ נוסף שיחשוף עוד יותר את החולשות המובנות בתעשייה.

"סוכני ספרים יהפכו לשוטרים"

הסוכנים, המשמשים כמתווכים בין סופרים למו"לים, מוצאים את עצמם בחזית. "אני חושבת שעכשיו מצפים מסוכנים ומעורכים להיות למעשה שוטרים", אמרה אמה דריס, סוכנת בסוכנות הספרים Triangle House. לדבריה, תיבת הדואר הנכנס שלה מוצפת יותר מאי פעם. היא מייחסת זאת לסופרים שמשתמשים במודלי שפה גדולים כדי לשלוח לסוכנים פניות בכמויות עצומות, וגם קיבלה כתבי יד שנראו בבירור כאילו נוצרו באמצעות AI.

לאחרונה היא דחתה סופר ספרי עיון שהתלהבה מעבודתו, לאחר שהודה כי הוא משתמש ב-AI לעיתים קרובות - לא לצורך הכתיבה, לטענתו, אלא כדי לקבל השראה. "אני בטוחה שהוא ימצא סוכן ויוציא את הספר לאור, ואני לא יודעת אם הנושא הזה בכלל יעלה לדיון", אמרה וציינה שכבר היו לו כמה הצעות לייצוג.

"כשאני רואה משהו שבאמת כתוב גרוע, זה ממש משב רוח מרענן בימינו", אמרה אנג'לין רודריגז, סוכנת ב-WME, והוסיפה שכמה מהחומרים שנשלחים אליה כיום "גורמים ל'50 גוונים של אפור' להיראות כמו טולסטוי".

יש סוכנים שפשוט לא שואלים ומקווים שהנושא לא יעלה; אחרים נוקטים עמדה נחרצת ומבהירים לסופרים שלא ייצגו אדם שמשתמש ב־AI, אפילו לצורכי מחקר; ויש גם מי שמשתמשים בתוכנות לזיהוי בינה מלאכותית כדי לבדוק כתבי יד, אף שמידת הדיוק של הכלים האלה עדיין שנויה במחלוקת.

"יש הרבה חרדה", אמרה רג'ינה ברוקס, מנכ"לית Serendipity Literary Agency ונשיאת איגוד הסוכנים הספרותיים האמריקאי (AALA). "אנשים חוששים שאחרי שעבדו על כתב יד במשך זמן רב, אולי הם לקחו משהו ממחקר כלשהו, ועכשיו הם נכנסים ללחץ בשאלה אם הדבר הזה ייחשב למשהו שאי אפשר להגן עליו בזכויות יוצרים".

העובדה שלא ניתן להגן על טקסט שנוצר באמצעות AI בזכויות יוצרים הפכה את הנושא לאחד הקווים האדומים הבודדים שהענף הצליח להציב ולאכוף. כל השאר - מעבר להעתקה והדבקה של משפטים ישירות ממודל שפה גדול לתוך כתב היד - נמצא בתחום האפור.

"כולנו פחות או יותר מנסים לגבש הנחיות תוך כדי תנועה, אבל באמת נדמה שהחששות שלנו החודש שונים מאלה שהיו לנו בחודש שעבר", סיפרה האנה באומן, סוכנת ב־Liza Dawson Associates, שעומדת בראש הוועדה המיוחדת לבינה מלאכותית של AALA.

סוכנים ועורכים יודעים שזה רק עניין של זמן עד שתפרוץ שערוריית הבינה המלאכותית הגדולה הבאה. "נקודת האור היחידה היא, תודה לאל, שאנחנו עדיין מבטלים את הספרים האלה", כפי שניסח זאת אחד הסוכנים שמתנגדים ל-AI. "אני לא יודע אם זה ימשיך להיות כך".

כתבה זו תורגמה על ידי גלובס באופן בלעדי מתוך The Wall Street Journal. לינק לכתבה המקורית באנגלית.