Freges teori om mening, trots all sin sofistikering, byggde på en otillfredsställande redogörelse för tankar som abstrakta objekt. Tractatus behövde inte hantera ett sådant problem, eftersom den behandlade betydelsen – och språket i sin helhet – oberoende av hur språket faktiskt används av människor. Mindre än tio år efter det att verket var färdigställt kom Wittgenstein emellertid att anse att denna dimension av språket är av yttersta vikt. Utan någon redogörelse för den, trodde han nu, skulle hela systemet i Tractatus falla ihop som ett korthus. I skrifter och undervisning från 1930 och framåt betonade han följaktligen sambanden mellan ord och praktisk mänsklig verksamhet. Ord får liv, eller ges betydelse, genom sådana aktiviteter – och endast genom dem. I den mängd små berättelser som beskriver vad han kallar “språklekar” föreställde sig Wittgenstein människor som räknar, ropar efter verktyg, ger anvisningar och så vidare. Genom att jämföra betydelsen av ett ord med kraften hos en pjäs i schack, insisterade han på att det endast är i samband med mänsklig aktivitet som mening existerar. Genom att uppfatta språket separat från dess användare hade Tractatus därför förbisett dess själva väsen. Den slogan som följaktligen förknippas med Wittgensteins senare verk är att “mening är användning”, även om han själv aldrig uttryckte denna åsikt i en sådan oinskränkt form.
Ett av Wittgensteins huvudteman är de språkliga dispositionernas öppna eller öppna karaktär. Även om det kan tyckas, särskilt för filosofer, att ordanvändningen bestäms av tillämpningen av distinkta och bestämda regler – och att det således är samma sak att känna till ett ords betydelse som att känna till motsvarande regel – så visar en noggrann undersökning av faktiska talsituationer att en enskild regel inte i något fall kan redogöra för den oräkneliga mängd olika användningsområden som ett enskilt ord kan användas till. Wittgenstein frågar till exempel vilken regel som skulle förklara den stora variationen av saker som kan kallas spel. När man letar efter något som alla spel har gemensamt finner man bara “ett komplicerat nätverk av likheter som överlappar och korsar varandra: ibland övergripande likheter, ibland likheter i detaljer”. De olika spelen tycks förenas endast av en vag “familjelikhet”. Användningen av ordet bestäms därför inte av en komplicerad regel eller definition – även omedvetet tillämpad – utan endast av en ganska avslappnad vilja att inkludera vissa saker och utesluta andra. Om det överhuvudtaget finns någon regel är det en trivial sådan: kalla endast de saker som är spel för spel. Kunskap om ords betydelse, och medlemskap i den språkliga gemenskapen i allmänhet, är alltså inte en fråga om att känna till regler utan endast om att dela dispositioner att använda ord på ungefär samma sätt som andra människor gör. Det finns ingen begreppslig grund för denna verksamhet: begreppet genereras av användningen, inte användningen av begreppet.
Detta innebär i synnerhet att ordanvändning inte kan grundas i Lockeanska idéer. Wittgensteins vederläggning av detta synsätt är ett av de mest förödande korta bevisen inom filosofin. Han ställer först problemet med hur någon kan förstå ordern att hämta en röd blomma från en äng: “Hur ska han veta vilken sorts blomma han ska hämta, eftersom jag bara har gett honom ett ord?”. En möjlighet är att lyssnaren associerar ordet rött med en idé (en mental bild av rött) och sedan letar efter en blomma som matchar bilden. Wittgenstein säger,
Men detta är inte det enda sättet att söka och det är inte det vanliga sättet. Vi går, tittar omkring oss, går fram till en blomma och plockar den, utan att jämföra den med något. För att se att processen att lyda en order kan vara av det här slaget kan vi betrakta ordern “föreställ dig en röd fläck”. Du frestas inte i detta fall att tänka att du innan du lyder måste ha föreställt dig en röd lapp för att tjäna dig som mönster för den röda lapp som du blev beordrad att föreställa dig.
De mest hyllade avsnitten i Wittgensteins sena mästerverk Philosophical Investigations (1953) försöker att avlägsna föreställningen om den privata erfarenheten. Deras tolkning är oändligt kontroversiell, men den grundläggande idén är att tankeobjekt inte kan innehålla element som är rent “privata” för en enskild individ – som till exempel förnimmelser antas vara. För om det fanns privata tankeobjekt skulle det inte kunna finnas någon skillnad, i det man säger om sina egna tankar, mellan att ha rätt och att bara tyckas ha rätt. Tankeobjekt måste därför i huvudsak vara offentliga, kontrollerbara objekt om vilka man i princip kan samtala med andra.
Inte bara erfarenhet och observation utan också förnuft och logik omformas i Wittgensteins senare filosofi. För Frege och Russell är logikens och matematikens satser helt oberoende av sinneserfarenheterna, och deras sanning beror endast på strukturerna i den abstrakta värld som de beskriver – en värld som görs tillgänglig för människor genom det rena förnuftets ljus. Denna vision äventyrades senare något av de logiska positivisternas assimilering av logik och matematik till tautologi och konventioner. Hos den senare Wittgenstein blir dock hela skillnaden mellan logisk och empirisk sanning oklar. Logiken, till exempel, är en uppsättning metoder och därmed ett språk som är helt i ordning som det är; vad som i logiken räknas som en korrekt tillämpning av en term eller en tillåten slutledning beror därför bara på vad logikerna gör. Liksom när det gäller ords betydelser i mer vanliga sammanhang är det de fasta dispositionerna hos dem som använder språket i fråga som spelar roll. Eftersom dessa dispositioner kan förändras är betydelsen dock inte – åtminstone inte i princip – fast och oföränderlig. De regler som återspeglar det allmänna bruket, inklusive grundläggande fysikaliska principer och logikens lagar, kan förändras om tillräckligt många av den berörda språkgemenskapen börjar använda gamla ord på nya sätt. De säkraste och mest säkra sanningarna kan förkastas på ett sammanhängande sätt, förutsatt att de regler som ligger till grund för dem har ändrats på lämpligt sätt. Det finns inga “högre” regler för att utvärdera dessa förändringar.
En obekväm vision öppnar sig vid denna punkt. Själva idén om sanning tycks förutsätta någon föreställning om korrekthet i tillämpningen av ord. Om man kallar en flodhäst för en ko, utom metaforiskt eller analogt, så har man antagligen gjort något fel. Men om regeln för tillämpningen av ordet ko helt och hållet härrör från språklig praxis, vad skulle då göra att detta fall bara är ett misstag och inte en förändring av regeln – och därmed en förändring av vad ordet ko betyder? Ett adekvat svar på denna fråga verkar kräva en redogörelse för vad det innebär att en regel är “i kraft”. Wittgenstein antyder i vissa passager att det inte finns någon substans i detta begrepp: i normala tider dansar alla i takt, och det är allt som gäller. Detta förslag framförs med särskild kraft i diskussionen om regelefterlevnad i Philosophical Investigations. Det står ändå klart att Wittgenstein ansåg att det går att göra skillnad mellan misstag och innovation.