Fregova teorie významu se při vší své propracovanosti opírala o neuspokojivý popis myšlenek jako abstraktních objektů. Tractatus se takovým problémem zabývat nemusel, protože pojednával o významu – a o jazyce vůbec – nezávisle na způsobech, jimiž člověk jazyk skutečně používá. Necelých deset let po dokončení díla však Wittgenstein dospěl k přesvědčení, že tento rozměr jazyka je nesmírně důležitý. Bez jeho zohlednění, jak se nyní domníval, by se celý systém Traktátu zhroutil jako domeček z karet. Ve spisech a učeních od roku 1930 proto zdůrazňoval souvislosti mezi slovy a praktickými lidskými činnostmi. Slova jsou těmito činnostmi oživována nebo jim dávají význam – a pouze jimi. V nejrůznějších drobných příbězích popisujících to, co nazývá “jazykovými hrami”, si Wittgenstein představoval lidi, jak počítají, volají po nářadí, dávají pokyny atd. Přirovnával význam slova k síle figurky v šachu a zdůrazňoval, že význam existuje pouze v kontextu lidské činnosti. Tím, že Tractatus pojímal jazyk odděleně od jeho uživatelů, tedy přehlédl jeho samotnou podstatu. Heslo, které je v souladu s tím spojováno s Wittgensteinovým pozdějším dílem, zní: “Význam je užití”, ačkoli on sám tento názor nikdy nevyjádřil v takto nekvalifikované podobě.

Jedním z hlavních Wittgensteinových témat je otevřená nebo otevřeně strukturovaná povaha jazykových dispozic. Ačkoli se může zdát, zejména filosofům, že užívání slov je určeno aplikací zřetelných a definitivních pravidel – a tedy že znát význam slova je totéž jako znát příslušné pravidlo -, pečlivé zkoumání skutečných řečových situací ukazuje, že v žádném případě nelze jediným pravidlem vysvětlit nesčetnou rozmanitost použití, k nimž může být jednotlivé slovo použito. Wittgenstein se například ptá, jaké pravidlo by vysvětlilo obrovskou rozmanitost věcí, které lze nazvat hrou. Když hledáme něco, co mají všechny hry společné, najdeme jen “složitou síť podobností, které se překrývají a kříží: někdy celkové podobnosti, jindy podobnosti detailů”. Zdá se, že různé hry spojuje pouze nejasná “rodinná podobnost”. Používání slova tedy není určeno složitým pravidlem nebo definicí – dokonce ani takovou, která by se uplatňovala nevědomě -, ale pouze poměrně uvolněnou dispozicí některé věci zahrnout a jiné vyloučit. Pokud vůbec nějaké pravidlo existuje, pak je to pravidlo triviální: hrami nazývejte jen ty věci, které jsou hrami. Znalost významu slov a obecně členství v jazykovém společenství tedy není záležitostí znalosti pravidel, ale pouze sdílení dispozic používat slova nějakým podobným způsobem, jakým to dělají ostatní lidé. Pro tuto činnost neexistuje žádný pojmový základ: pojem je vytvářen užíváním, nikoli užívání pojmem.

To zejména znamená, že užívání slov nemůže být založeno na Lockových idejích. Wittgensteinovo vyvrácení tohoto názoru je jedním z nejničivějších krátkých důkazů ve filosofii. Nejprve nastoluje problém, jak může někdo pochopit příkaz, aby přinesl z louky červenou květinu: “Jak má vědět, jaký druh květiny má přinést, když jsem mu dal pouze slovo?”. Jednou z možností je, že si posluchač spojí slovo červená s představou (mentálním obrazem červené) a pak hledá květinu, která tomuto obrazu odpovídá. Wittgenstein říká,

Ale to není jediný způsob hledání a není to ani způsob obvyklý. Jdeme, rozhlédneme se kolem sebe, přistoupíme ke květině a utrhneme ji, aniž bychom ji s něčím srovnávali. Abychom viděli, že proces plnění příkazu může být tohoto druhu, uvažujme příkaz “představ si červenou skvrnu”. V tomto případě nejste v pokušení myslet si, že jste si před uposlechnutím museli představit červenou skvrnu, aby vám posloužila jako vzor pro červenou skvrnu, kterou jste dostali příkaz představit si.

Nejslavnější pasáže Wittgensteinova pozdního mistrovského díla Filosofická zkoumání (1953) se pokoušejí rozklíčovat pojem soukromé zkušenosti. Jejich interpretace je nekonečně kontroverzní, ale základní myšlenka spočívá v tom, že předměty myšlení nemohou obsahovat prvky, které jsou čistě “soukromé” pro jednoho jedince – jako mají být například vjemy. Kdyby totiž existovaly soukromé předměty myšlení, pak by v tom, co člověk říká o svých vlastních myšlenkách, nemohl být rozdíl mezi tím, zda má pravdu, a tím, zda se mu to pouze zdá. Objekty myšlení tedy musí být v zásadě veřejnými, kontrolovatelnými předměty, o nichž lze v zásadě konverzovat s ostatními.

Nejen zkušenost a pozorování, ale i rozum a logika se ve Wittgensteinově pozdější filosofii proměňují. Pro Fregeho a Russella jsou věty logiky a matematiky zcela nezávislé na smyslové zkušenosti, jejich pravdivost závisí pouze na strukturách abstraktního světa, který popisují – světa, který je lidem zpřístupněn světlem čistého rozumu. Tato vize byla později poněkud zkompromitována asimilací logiky a matematiky na tautologii a konvenci ze strany logických pozitivistů. U pozdějšího Wittgensteina se však celý rozdíl mezi logickou a empirickou pravdou stává nejasným. Logika je například soubor postupů, a tedy jazyk, dokonale uspořádaný tak, jak je; to, co se v logice počítá za správnou aplikaci pojmu nebo přípustné vyvození, tedy závisí pouze na tom, co logici dělají. Stejně jako u významů slov v běžnějších kontextech záleží na ustálených dispozicích těch, kdo daný jazyk používají. Protože se však tyto dispozice mohou měnit, není význam – alespoň v principu – pevný a neměnný. Pravidla odrážející běžné používání, včetně dokonce základních fyzikálních principů a samotných zákonů logiky, se mohou měnit za předpokladu, že dostatečná část příslušné jazykové komunity začne používat stará slova novým způsobem. Nejbezpečnější a nejjistější pravdy mohou být důsledně odmítnuty za předpokladu, že se odpovídajícím způsobem změnila pravidla, která jsou jejich základem. Neexistují žádná “vyšší” pravidla, podle nichž by bylo možné tyto změny hodnotit.

V tomto bodě se otevírá nepříjemná vize. Zdá se, že samotná idea pravdy předpokládá určitý pojem správnosti použití slov. Pokud někdo nazve hrocha krávou, s výjimkou metafory nebo analogie, pak se patrně v něčem zmýlil. Pokud je však pravidlo pro použití slova kráva odvozeno výhradně z jazykové praxe, co by z tohoto případu dělalo pouhou chybu, a nikoli změnu pravidla – a tedy změnu toho, co slovo kráva znamená? Zdá se, že adekvátní odpověď na tuto otázku by vyžadovala nějaký popis toho, co to znamená, že pravidlo “platí”. Wittgenstein v některých pasážích naznačuje, že tento pojem nemá žádnou podstatu: v normální době všichni tančí v kroku, a to je vše. Tento návrh je vysloven se zvláštní silou v diskusi o následování pravidla ve Filosofických zkoumáních. Přesto je zřejmé, že Wittgenstein věřil, že lze rozlišovat mezi chybou a inovací

.