Treniranje velikih jezičnih modela započelo je s korpusima knjiga i znanstvenih tekstova. Kad je slobodnog i aktualnog sadržaja ponestalo neki su se poslužili piratskim izvorima.

Nekada smo slušali proročanstva Babe Vange i proročišta u Delfima, a danas nekritički upijamo svaku riječ Billa Gatesa i Elona Muska.