Os eventos da história "Sign of Four" acontecem em Londres em 1888. Durante uma ociosidade forçada devido à falta de ordens, o conhecido consultor detetive Sherlock Holmes, que vive em 221-6 na Baker Street, junto com seu amigo Dr. Watson, parte para ele seu método dedutivo, que ele usa na resolução de crimes. Sherlock Holmes está convencido de que uma pessoa observadora é capaz de provar a existência do Oceano Atlântico e das Cataratas do Niágara por conclusões lógicas, mesmo que nunca as tenha visto antes e não tenha ouvido nada sobre elas. Os menores detalhes e fatos devem ser observados, uma vez que são capazes de dar uma contribuição inestimável à reconstrução da imagem completa dos eventos, da natureza da pessoa e das circunstâncias do crime.
Sendo um detetive brilhante, Sherlock Holmes possui conhecimento enciclopédico no campo da crônica criminal e da química, toca bem violino, possui excelentes habilidades de esgrima e boxe, é versado em geologia, anatomia, botânica, possui um extraordinário talento de atuação, mas no campo da literatura, filosofia, astronomia, seu conhecimento é zero. Nas horas em que ele não tem nada para fazer, ele é dominado pelo tédio mortal e encontra consolo na morfina e na cocaína.
Watson, um amigo e companheiro de Sherlock Holmes, um ex-médico militar que serviu com o exército inglês na guerra da Índia com o Afeganistão e foi ferido nessa guerra, vive com Holmes no mesmo apartamento e é um cronista de todos os casos que seu amigo revelou.
Para o grande prazer de Sherlock Holmes, sua ociosidade temporária é interrompida por uma certa senhorita Morsten, 27 anos, com um rosto espiritualizado e gentil, testemunhando a nobreza e a simpatia da alma. Ela conta ao detetive sobre eventos estranhos que aconteceram recentemente em sua vida e pede ajuda a ele. Na infância, ela perdeu a mãe. O pai, que atuou como oficial na Índia, enviou sua filha para uma pensão na Inglaterra. Em 1878, isto é, dez anos atrás, ele chegou à Inglaterra, como anunciado anteriormente em um telegrama. No entanto, quando Miss Morsten chegou ao hotel, descobriu que seu pai havia desaparecido repentinamente. Ele não voltou no dia seguinte, nunca mais voltou. Então, a partir de 1882, ela repentinamente começou a receber anualmente de alguém uma pérola muito bonita e grande. E no dia da sua visita a Holmes, ela recebeu uma carta na qual foi convidada a ir ao Lyceum Theatre à noite, dizendo que fora tratada de maneira injusta e que alguém queria corrigir essa injustiça.
Sherlock Holmes e Dr. Watson vão ao local indicado com ela. Antes de sair, ela mostra a Holmes uma nota estranha, encontrada nos pertences de Morsten desaparecido, que mostrava um plano de alguma sala, com quatro cruzes pintadas seguidas no mesmo lugar, com vigas cruzadas em contato umas com as outras e com uma assinatura pretensiosa: "sinal de quatro". A pessoa que eles conheceram os leva de táxi para o sul de Londres. Lá eles encontram um pequeno homem ruivo com uma cabeça careca e brilhante. Acontece que ele é um dos filhos gêmeos do major Sholto, que morreu seis anos atrás, Tadeusz Sholto. Seu pai e a senhorita Morsten já serviram juntos na Índia nas forças coloniais. Lá, o major Sholto, misteriosamente rico, renunciou há onze anos e retornou à Inglaterra com uma rica coleção de raridades orientais e uma equipe inteira de empregados nativos. O major não revelou o segredo da aquisição de tesouros e de onde eles foram guardados até sua morte. Ao sentir a aproximação dela, ele chamou seus filhos e contou-lhes como o capitão Morsten morreu. Aconteceu que, tendo chegado a Londres há dez anos, ele veio a Sholto e eles tiveram uma disputa sobre a divisão de tesouros, sobre a qual Morsten conhecia e metade era devido a ele. Ele, sofrendo de coração dolorido, teve um ataque. Então ele caiu e, tendo batido a cabeça no canto da arca do tesouro, ele morreu. Temendo ser acusado de assassinato, Sholto escondeu o corpo do capitão e não disse nada à filha quando, alguns dias depois, procurando o pai desaparecido, ela foi à casa dele. Antes de sua morte, ele também queria revelar a seus filhos onde o caixão estava escondido, mas um rosto terrível do lado de fora da janela o impedia de fazer isso. Ele morreu, levando o segredo consigo para o túmulo. Seus filhos, sentindo um dever para com a senhorita Morsten e querendo livrá-la de pelo menos necessidade, começaram a enviar a cada ano uma pérola de pérolas, uma vez removidas pelo pai do caixão. Por enquanto, Tadeusz Sholto e seu irmão Bartolomeu nem sabiam onde as próprias riquezas estavam escondidas. No entanto, na véspera, depois de muitos anos de buscas sem sucesso, Bartolomeu os encontrou no sótão de sua casa, em uma sala secreta e murada. Ele relatou isso a Tadeusz. Ele, apesar das objeções de seu irmão, que herdou a avareza de seu pai, decidiu compartilhar os tesouros com a senhorita Morsten. Todos os quatro vão para Bartholomew. No entanto, eles descobrem que ele foi morto por um espinho venenoso jogado no pescoço, que os tesouros foram roubados e que um pedaço de papel com o "sinal de quatro" foi deixado na cena do crime.
Pequenos detalhes fazem Sherlock Holmes supor que duas pessoas são criminosas - um condenado fugitivo chamado Jonathan Small, que tem uma prótese de madeira em vez de sua perna direita, e o número um, um selvagem das Ilhas Andaman, é pequeno, muito zangado e ágil. Depois de ajudar Small, junto com o caixão, a descer a janela da corda, ele fechou as persianas por dentro e saiu pelo sótão. Enquanto fugia, ele sujou o pé no creosoto e Holmes, com a ajuda do cão farejador Toby, seguiu seus passos até o rio. Lá ele soube que os criminosos subiram a bordo de um barco alugado pela Aurora. Quando o plano de Holmes de rastrear um barco com a ajuda de uma gangue de garotos contratados falha, ele, vestido como um velho marinheiro, sai em busca da Aurora e tenta encontrá-la nas docas. Ele consegue. Ele chama a ajuda do inspetor da Scotland Yard, Ethelny Jones, que investiga o assassinato, e eles, juntamente com o Dr. Watson, perseguem um barco da polícia e pegam os criminosos com um caixão. Ao perseguir um selvagem, ele precisa ser morto, porque começa a atirar nos perseguidores com seus espinhos venenosos. Watson leva o caixão para a senhorita Morsten, mas, no final, ele está vazio, o que o médico está extremamente feliz porque a barreira que, em sua opinião, surgiu entre ele e a jovem por causa de sua suposta riqueza, desaparece. Agora ele pode confessar livremente o amor dela e oferecer sua mão e seu coração. A senhorita Morsten acha sua oferta muito atraente. Pequeno, ao perceber que seria inevitavelmente pego, jogou as joias no Tamisa, porque não queria deixar que ninguém as pegasse. A morte de Bartolomeu Sholto não fazia parte de seus planos, e não foi ele quem o matou, mas o malvado selvagem sem o conhecimento de Small. Para convencer Sherlock Holmes e Ethelney Jones disso, ele conta a história de sua vida. Em sua juventude, ele se alistou como soldado no regimento, enviado para a Índia. No entanto, ele logo teve que se separar do serviço: quando se banhou em Tanga, o crocodilo mordeu a perna acima do joelho e ele se tornou um aleijado desamparado. Então, quando ele trabalhou como superintendente em uma plantação, um tumulto começou repentinamente no país. Small correu para Agra e ingressou na unidade britânica que havia se refugiado na fortaleza de Agra, encarregado de guardar uma das entradas da fortaleza e recebeu dois sikhs. Na terceira noite, os sikhs capturaram Small e o confrontaram com uma escolha: ficar com eles ou calar a boca para sempre. Contaram-lhe sobre seu plano: nas províncias do norte vivia um raja muito rico. Ele ordenou que parte de sua riqueza escondesse o servo Akhmet na fortaleza de Agra até o final da guerra, para que, em caso de vitória, os britânicos salvassem pelo menos esse baú. O companheiro dos sikhs e Akhmet, seu cúmplice, queria matá-lo e tomar posse do caixão. Small decidiu se juntar a eles e jurou lealdade a eles. Todos os quatro cumpriram seu plano. Eles esconderam o Akhmet assassinado em um dos corredores da antiga fortaleza, onde ninguém havia entrado. O baú estava murado na parede do mesmo corredor. Cada um deles recebeu uma nota com um plano e simbolizando sua fidelidade um ao outro com o "sinal de quatro". No entanto, posteriormente todos foram condenados à prisão perpétua por assassinato. Enquanto cumpriam suas sentenças, eles não podiam usar sua riqueza. Então Small concordou com Sholto e Morsten, que estavam guardando a prisão, que ele lhes diria onde o caixão estava escondido, eles receberiam sua parte e, em troca, organizariam uma fuga para os quatro prisioneiros. Sholto, que foi buscar o caixão, enganou a todos e retornou sozinho à Inglaterra. Desde então, Small começou a viver apenas com o pensamento de vingança. Ele escapou da prisão com a ajuda de um amigo - um nativo chamado Tongo. Na Inglaterra, ele fez contato com um dos servos do major Sholto e esperou o momento certo. Foi Small quem olhou pela janela para o major moribundo. Esperando nas asas, ele roubou os tesouros. Pela morte de Bartolomeu, ele desatou Tongo com uma corda. Essa foi a história de Jonathan Small.
Tesouros não foram para ninguém. Watson recebeu a esposa de Miss Morsten, Ethelney Jones - fama pelo crime solucionado, e Holmes ficou satisfeito com uma ampola de cocaína.