
Po sérii tragických událostí Opeli oznamuje zavedení nového zabezpečení v modelu Chatgpt. Nejdůležitější z nich je přesměrování citlivých konverzací na GPT-5 a zavedení nástrojů, které Mají pomáhat rodičům chránit teenagery pomocí aplikace.
GPT-5 je chránit uživatele během citlivých konverzací
Opeli oznámila, že v blízké budoucnosti zahájí mechanismus, který automaticky detekuje rozhovory o obzvláště obtížné povaze – např. o duševních krizích a přesměruje je na pokročilejší modely umělé inteligence, jako je GPT-5.
Nové algoritmy mají lépe analyzovat kontext a poskytovat bezpečnější a promyšlenější odpovědi. Společnost tvrdí, že tyto modely jsou odolnější vůči nebezpečnému obsahu a je obtížnější je manipulovat.
Přečtěte si také: Který smartphone pro dítě si vybrat? Hodnocení nejlepších telefonů
Podle webu TechCrunch – Takové rozhodnutí je reakcí na dramatické případy, kdy se Chatgpt nedokázal správně reagovat. Nejzávažnější příklad se týká teenagera, který popsal jeho myšlenky a plány na život v rozhovorech s Czatbotem. Místo toho, aby mu pomohl, mu systém poskytl podrobné informace o tom, jak je implementovat. Rodina zesnulého chlapce žalovala OpenAI a obvinila společnost nedostatkem účinných ochranných mechanismů.
Odborníci to naznačují Problém je výsledkem základního způsobu jazykových modelů. Chatboti často podporují konverzaci a potvrzují slova uživatele namísto reakce v čase a nasměrují ji na bezpečné stopy. Opeli připouští, že předchozí bezpečnost selhala zejména během dlouhých a komplikovaných interakcí.
Větší role rodičů při ochraně teenagerů
OpenAI plánuje představit v příštím měsíci nové funkce rodičovské kontroly. Díky nim budou rodiče schopni propojit svůj účet s účtem teenagera a stanovit pravidla týkající se používání ChatGPT.
Dostupné možnosti budou zahrnovat filtrování obsahu přizpůsobeného věku a schopnost deaktivovat uložení historie konverzací a funkcí paměti. Podle specialistů mohou takové změny snížit riziko nadměrného připoutání k chatbotu a konsolidaci škodlivých myšlenkových vzorců.
Jedním z klíčových prvků nového systému je být Mechanismus oznámení pro strážce. Pokud algoritmy detekují známky vážné emoční krize v teenageru, rodiče okamžitě obdrží informace o hrozbě. O tom, jak toto řešení funguje, nebyly prozatím odhaleny žádné podrobnosti, ale OpenAI je konzultuje s odborníky, kteří se zabývají duševním zdravím, nutričními poruchami a závislostí.
Zdroj: Tiskové informace, TechCrunch, vlastní studie. Otevírací fotografie: Diego / Adobe Stock
Některé odkazy jsou přidružené odkazy nebo odkazy na nabídky našich partnerů. Po kliknutí si můžete přečíst cenu a dostupnost produktu, který si vybereme – nezpůsobujete žádné náklady a zároveň podporujete nezávislost redakčního týmu.