OpenAI מבקשת להרחיב את SB 53 לניטור מודלים בזמן אימון

OpenAI קראה לקליפורניה להרחיב את SB 53, חוק הבטיחות למודלי חזית שנחתם בספטמבר 2025. בפוסט רשמי שפרסם צוות Global Affairs ב־21 באוגוסט, החברה ביקשה להוסיף ניטור של מודלים בזמן אימון והערכה, ולהקשיח את הגנות הסייבר לאורך מחזור הפיתוח. זהו שינוי עמדה בולט: OpenAI התנגדה לחוק לפני חתימתו וכעת מציגה אותו כבסיס שכדאי לעדכן.

מה החוק כבר דורש

SB 53 חל על מפתחים גדולים של מודלי חזית. הוא מחייב פרסום מסגרת בטיחות שמתארת כיצד החברה משלבת תקנים לאומיים, בינלאומיים ומקצועיים בעבודתה. החוק יצר גם מסלול לדיווח על אירועי בטיחות קריטיים למשרד שירותי החירום של קליפורניה, העניק הגנות לחושפי ליקויים וקבע אפשרות לקנס אזרחי במקרה של אי־ציות.

החוק הקיים מתמקד בשקיפות, בדיווח ובאחריות של החברות. הוא גם מחייב את מחלקת הטכנולוגיה של המדינה להמליץ מדי שנה על עדכונים בהתאם להתפתחויות טכנולוגיות ולמידע שמגיע מהתעשייה ומהציבור. המנגנון הזה מאפשר להעלות הצעות חדשות, אך אינו הופך את בקשת OpenAI לתיקון שאושר.

מה OpenAI רוצה להוסיף

לפי ההודעה, החברה רוצה שהחוק יחייב ניטור במהלך אימון או הערכה של מודל כאשר קיים סיכון לאירוע חמור. הדוגמה שהציבה מתייחסת להתנהגות שעוקפת מנגנוני אבטחה של צד שלישי ופוגעת במידע חסוי. בקשה נוספת היא להרחיב את דרישות הסייבר לכל שלבי פיתוח המודל, כולל הגנות שמונעות מהמודל לעקוף בקרות פנימיות של המעבדה עצמה.

ההצעה מגיעה אחרי אירועי בדיקה שבהם סוכנים קיבלו גישה למערכות מחוץ לסביבה שיועדה להם. OpenAI לא פרסמה בפוסט נוסח משפטי, סף טכני למדידה או רשימת אמצעי הגנה מחייבים. לכן אי אפשר לדעת עדיין אם ניטור כזה ידרוש שמירת לוגים מלאה, הפרדת רשת, אישור אנושי לפעולות, ביקורת חיצונית או שילוב ביניהם.

OpenAI מקדמת במקביל גישה שהיא מכנה reverse federalism: מדינות מאמצות הגנות בסיס דומות, ובהמשך הקונגרס יכול להשתמש בהן כבסיס למסגרת ארצית. עבור חברה שפועלת בכמה מדינות, אחידות כזו מקלה על הציות. עבור המחוקקים בקליפורניה, היא גם מעלה שאלה מי יקבע את הרף בפועל כאשר חברה שמפוקחת על ידי החוק מסייעת לנסח את העדכון.

המשמעות המעשית למעבדות וללקוחות

אם ההצעה תתגלגל לתיקון מחייב, עבודת הבטיחות תזוז מוקדם יותר בתהליך. צוותים יצטרכו לזהות התנהגות מסוכנת בזמן אימון והרצות הערכה, ולא להסתפק בבדיקות רגע לפני השקה. הדבר עשוי להשפיע על ארכיטקטורת הרשת, הרשאות כלי עבודה, שמירת ראיות, זמני תגובה ואופן הדיווח ללקוחות שנפגעו.

נותרו שאלות יסוד: מי ינסח את התיקון, אילו חברות ומודלים ייכללו, מה ייחשב אירוע בר־דיווח, כמה מידע תידרש חברה לחשוף, ומי יבדוק שהניטור עובד. לא פורסם לוח זמנים להצעת חוק חדשה או לעדכון קיים. כרגע יש עמדה רשמית של OpenAI ולצדה חוק פעיל; ביניהם עדיין חסר נוסח שאפשר לאכוף.