Vyhľadávanie
Cybersecurity expert Janusch Skubatz, Chief Information Security Officer of the EOS Group, with brown hair and white shirt

Generatívna umele inteligencia? Určite áno!

  • Generatívna AI ponúka veľké možnosti.
  • Materská spoločnosť EOS Otto Group vyvinula bezpečný nástroj prispôsobený potrebám spoločnosti.
  • Jeho použitie ponúka výhody aj v sektore správy pohľadávok s mimoriadne vysokými štandardmi.
Pre vedenie elektronickej skupiny Samsung to bola nepríjemná správa. Na jar 2023 sa na internete zrazu objavili poznámky z interných stretnutí a údaje o výkonnosti výrobných zariadení. Vinníkmi neboli hackeri, ale vlastní zamestnanci spoločnosti, ktorí používali generatívnu umelú inteligenciu. Jeden zamestnanec napríklad použil ChatGPT na premenu svojich poznámok zo stretnutia na hotový dokument bez toho, aby si uvedomil, že bezplatná verzia asistenta AI ukladá všetky informácie z podnetov svojich používateľov a používa ich na rozšírenie svojich znalostí.

Príklad, ktorý ukazuje, že generovanie informácií prináša aj riziká, ako sú nedostatočné povedomie zamestnancov o bezpečnostných pravidlách, absencia firemných smerníc alebo nové príležitosti pre útoky hackerov. V celosvetovom prieskume, ktorý uskutočnila poradenská spoločnosť McKinsey, 53 % všetkých účastníkov, ktorí už pracovali s generatívnou AI, považovali kybernetickú bezpečnosť za najväčšie riziko tejto novej technológie.

Mnohé spoločnosti považujú kybernetickú bezpečnosť za najväčší problém:

zoomzoom
Graphic with the number 53 percent shows how many companies consider cyber security to be their biggest problem.
Zdroj: McKinsey Global Survey on AI, 2023, “The state of AI in 2023: Generative AI’s breakout year”

Prístup bezpečného riešenia pre generatívnu AI

Generatívna umelá inteligencia zároveň ponúka spoločnostiam obrovský potenciál na zvýšenie ich efektívnosti a inovačnej sily. Skupina Otto preto hľadala spôsob, ako využiť príležitosti, ktoré táto technológia ponúka a zároveň sa snažila obmedziť jej riziká. Pod názvom ogGPT vyvinula materská spoločnosť EOS vlastnú generatívnu AI pre 26 000 zamestnancov skupiny. "Chceli sme vytvoriť riešenie, ktoré by bolo prispôsobené vlastným potrebám našej skupiny, s dôrazom na bezpečnosť a ochranu údajov," hovorí Anja Körber, vedúca oddelenia umelej inteligencie a automatizácie v Otto Group IT. Spoplatnená podniková verzia Chat GPT neprichádzala do úvahy aj napriek tomu, že tento asistent s umelou inteligenciou neukladá informácie z výziev. "Servery sa nachádzajú v USA," hovorí Anja. "To znamená, že v prípade pochybností, by mali k údajom prístup miestni zamestnanci, napríklad z podpory. A európske normy, ako napríklad GDPR, sa v USA neuplatňujú."

Len toľko spoločností má smernice o používaní umelej inteligencie:

zoomzoom
Graphic with 21 percent shows how many companies have an AI policy.
Zdroj: McKinsey Global Survey on AI, 2023, “The state of AI in 2023: Generative AI’s breakout year”
Z prieskumu poradenskej spoločnosti McKinsey tiež jasne vyplýva, že v oblasti usmernení existujú medzery. Skupina Otto Group sa už touto otázkou zaoberala, a to aj v mene svojich pobočiek. V priebehu dvoch mesiacov zamestnanci skupiny Otto Group v rámci rôznych projektov a hackathonov vypracovali nielen smernicu o umelej inteligencii, ale aj jednotlivé stavebné prvky pre ogGPT. Výsledkom je základný rámec, ktorý aktualizuje svoje znalosti, aj pomocou údajov z internetu, ale stále je bezpečný, vysvetľuje Anja: "ogGPT zabúda na podnety. Máme plnú kontrolu nad údajmi."

Jedinečnou prednosťou ogGPT však nie je len bezpečnosť. "Chceli sme funkcie, ktoré zodpovedajú našim požiadavkám," hovorí Anja. Asistent s umelou inteligenciou dokáže napríklad zhrnúť obsah dlhého e-mailového vlákna. ogGPT sa už používa aj na písanie informačného bulletinu: zatiaľ čo predtým mali čitatelia bulletinu k dispozícii len nadpisy, ktoré odkazovali na ďalší obsah, teraz môžu nájsť kompaktné zhrnutia obsahu. Ide o výrazné zlepšenie, ktoré by bolo manuálne príliš časovo náročné.
Portrait of the female expert Anja Körber, Head of Artificial Intelligence & Automation in the Otto Group, with a braid and blazer.

Chceli sme vytvoriť riešenie, ktoré by bolo prispôsobené vlastným potrebám našej skupiny

so zameraním na bezpečnosť a ochranu údajov.

Anja Körber
vedúca oddelenia umelej inteligencie a automatizácie, Otto Group
Okrem toho vnútropodnikové riešenie znižuje strach zamestnancov, pre ktorých by sa integrácia generatívnej umelej inteligencie do ich každodennej práce mala stať súčasťou ich pracovného života. "Vďaka vnútropodnikovému riešeniu sme vybudovali interný tím odborníkov a vytvorili vlastnú komunitu. Predovšetkým komunita dáva mnohým zamestnancom dobrý pocit - ak neviem nájsť riešenie, môžem sa opýtať kolegov."

Vlastná generatívna umelá inteligencia je užitočná aj pre spoločnosť Otto affiliate EOS, hovorí Janusch Skubatz, Chief Information Security Officer skupiny EOS. Prvé interné projekty už prebiehajú. "Myslím si, že v budúcnosti budeme využívať aj ogGPT," hovorí, "ale prekážky v oblasti ochrany údajov pri správe pohľadávok sú mimoriadne vysoké. Keď napríklad získavame nesplácané úvery, získavame prístup k údajom, ktoré si ochranu obzvlášť zaslúžia." Preto spoločnosť EOS podlieha ďalekosiahlejším pravidlám ako iné spoločnosti a často aj zmluvným požiadavkám zo strany partnerov, hovorí Janusch: "Musíme preto starostlivo kontrolovať, či technológia musí spĺňať ďalšie požiadavky."
Cybersecurity expert Janusch Skubatz, Chief Information Security Officer of the EOS Group, with brown hair and white shirt

Výzvy na internete by nemali používať obchodné informácie ktoré nie sú určené pre vonkajší svet.

Janusch Skubatz
riaditeľ informačnej bezpečnosti skupiny EOS Group
Pokiaľ spoločnosti nemôžu používať bezpečnú internú verziu generatívnej umelej inteligencie, Janusch odporúča používateľom vo všetkých odvetviach, aby dodržiavali základné pravidlá. Spoločnosť EOS a skupina Otto Group ako celok už majú politiku AI, ktorá sa vzťahuje na všetkých zamestnancov.

Úryvok z usmernenia skupiny EOS o umelej inteligencii

  • Konajte zodpovedne! Údaje do verejných systémov umelej inteligencie zadávajte len vtedy, ak je vhodné zverejniť ich aj na webovej stránke spoločnosti.

    Buďte opatrní! Odpovede generované umelou inteligenciou môžu byť neobjektívne, nepresné alebo nevhodné. Vždy si skontrolujte výsledky vygenerované nástrojmi AI.

    Dávajte si pozor! Nikdy neposkytujte svoje prihlasovacie údaje (používateľské meno, heslo) nástrojom AI a vždy si dávajte pozor na metódy phishingu.

    Požiadajte o podporu: Ak si nie ste istí, či smiete používať určité údaje, alebo ktorý nástroj AI je bezpečný, opýtajte sa miestneho pracovníka pre informačnú bezpečnosť.

Janusch sa však domnieva, že najrozhodujúcejším faktorom je pravidelná interakcia s generatívnou umelou inteligenciou: "Skúsenosti sú nevyhnutným predpokladom na získanie citu pre technológiu a kvalitu výsledkov." Takto sa dá predísť rizikovým situáciám, ako boli tie v spoločnosti Samsung a využiť jej obrovský potenciál.

Máte záujem diskutovať o individualizovanej generatívnej AI? Kontaktujte nás teraz.

Fotografické kredity: EOS