Новини›Tinggal›Кибератаки заплашват отвореността на AI платформите, предупреждава Hugging Face
Снимка: TechCrunch AI
Tinggal

Кибератаки заплашват отвореността на AI платформите, предупреждава Hugging Face

TechCrunch AI · вторник, 10 ноември, 15:00 · 1 мин четене

Какво стои зад по-строгите мерки за сигурност в отворените AI общности.

Ирина Соланман от Hugging Face предупреждава, че нарастващите кибератаки към отворените AI платформи може да наложат по-строги ограничения. Същите качества, които ги правят полезни, като лесния достъп и богатите данни, ги правят и уязвими. През октомври бе атакуван OpenCode, като бяха засегнати API ключовете на потребители от трети страни. Този лятен инцидент с Hugging Face също показва риска.

Проблемът не е само при платформи, които приемат приноси от общността. Компанията временно изключи някои функции за набори от данни.

Соланман казва, че общността трябва да остане достъпна за любители, които нямат институционална връзка. Но именно това прави платформите лесна мишена. Според нея има и опасност отвореният софтуер да се затвори, точно когато получава голяма обществена подкрепа.

За момента Hugging Face се опитва да избегне по-строг контрол. Компанията засилва наблюдението, сменя административните ключове много по-често и въвежда по-строги мрежови ограничения.

Същите въпроси вълнуват и GitHub, който затяга правилата за публикуване на пакети и отменя стари удостоверителни ключове, без да ограничава участието. Според инженер от компанията по-добрата сигурност идва от поправяне на слабостите, а не от ограничаване на хората.

Още новини