Články

Od rozmachu veľkých jazykových modelov sa veľa hovorí o nebezpečenstvách, ktoré môžu predstavovať. Najväčším z nich je odklon od našich hodnôt v kombinácii so schopnosťou skryť to pred nami. Výskumníci z firmy Anthropic sa preto pokúsili zistiť, či sú dnešné modely schopné klamať, manipulovať dáta a skrývať svoje skutočné schopnosti.

Skupina 41 vedcov z 15 rôznych univerzít a inštitútov vytvorila veľký jazykový model, ktorý sa snaží predpovedať naše rozhodovanie. Dostal meno Centaur a bol vytvorený čiastočným pretrénovaním modelu Llama 3.1 (konkrétne technikou QLoRA) na množstve dát z rôznych psychologických experimentov. Cieľom bolo, aby dokázal na základe histórie rozhodnutí človeka

Nástroje založené na umelej inteligencii sa vyvíjajú šialeným tempom a je ťažko povedať, ktorých oblastí sa v blízkej budúcnosti dotknú. Jedným často spomínaným použitím však je zefektívnenie vedeckého bádania. Čerstvým prínosom k tejto snahe je nová umelá inteligencia od Googlu. Tzv. AI co-scientist je nástroj, ktorý má byť schopný odhaľovať

Nástroje umelej inteligencie dnes už v mnohom prevyšujú ľudské schopnosti. To naskytá množstvo etických otázok ohľadom toho, kedy je akceptovateľné, aby rozhodnutie robila umelá inteligencia a aké rozhodnutie je v takej situácii správne (napr. známy problém toho, koho by malo zraziť samoriadiace auto). Odpovede často neplynú len z logických úvah,

Bezprecedentné množstvo vedeckého výskumu v modernej dobe nám neustále prináša nové poznatky. Nevýhodou tejto skutočnosti však je, že je v podstate nemožné byť odborníkom vo viacej než jednej alebo dvoch veľmi úzkych oblastiach. V dôsledku toho nám niektoré samozrejmé súvislosti môžu unikať, pretože nie je nikto, kto by ich uvidel.