Handlingen i «Haiene» foregår hovedsakelig ombord i barken S/V «Neptun», som seiler ut fra Manila 21. oktober 1899. Hovedperson og forteller i boken er den 33 år gamle annenstyrmann Peder Jensen fra Hammerfest. Det kan riktignok diskuteres om han er hovedperson, for det er egentlig lite av romanen som handler om den norske 2.styrmannen. Han er hemningsløst betatt av skuten, og for seg selv kaller han den «Sancta Vénere» - Den hellige Venus. Han elsker å seile henne, men han merker raskt en hatsk stemning ombord.

Allerede første dag til sjøs slår dette hatet ut i et vanvittig slagsmål mellom den javanesiske tømmermannen og den peruanske lettmatrosen. Jensen må trå til som medisinmann, slik hans plikt som annenstyrmann er, til tross for at han ikke har noen som helst utdanning innen medisin.

Den lite sympatiske tredjestyrmann Dickson sender en dag den spinkle dekksgutten Pat fra London til værs. Høyt oppe i masten får Pat panikk og klamrer seg fast. Etter flere timer griper Jensen inn og ber den kraftige mulatten James Arrowsmith om å ta ham ned. Vel nede er Pat sterkt sjokkskadet, og må tas hånd om av annenstyrmannen. Pat blir etterhvert sterkt knyttet til Peder Jensen på bakgrunn av han tar hånd om den lille fjortenårige londongutten. Jensen gir gutten litt av seg selv, men finner senere ut at hvis han i det hele tatt skal gi noe av seg selv for denne gutten, eller noen andre, må han gi alt.

Vi leser siden om den belgiske, alkoholiserte stuerten som får delirium - en sinnssykdom som fører til at mannen får hallusinasjoner og mister nesten all kontakt med omverdenen og det som skjer rundt han. Dessuten om flere og alvorligere slagsmål forut - hvor mannskapet holder til. Vi tar del i annenstyrmannens filosofier og grublerier rundt dette. Mer og mer blir han en slags far for den ynkelige Pat. Første del av boken avsluttes med at en mann og en kvinne kommer flytende. De er døde, og bundet seg sammen med et tau - et symbol på samhold.

Annen del av boken begynner med at den lange, magre 1.styrmannen Jeremy Cox, som i noen dager har nektet å arbeide, hopper overbord i en religiøs ekstase. Mannskapet ser på og ler. Slagsmålene forut blir stadig tøffere, og mye aggresjon rettes etterhvert mot offiserene, som etterhvert må begynne å gå bevæpnet.

Kapteinen er overrasket over at Jensen ikke vil forfremmes til førstestyrmann etter at den tidligere styrmannen hoppet i sjøen på grunn av en sinnssykdom. Kaptein Anderson er fra Sørlandet, men er gift med en amerikaner. Han har med seg henne og deres to barn ombord. Anderson er en usedvanlig kraftig kar, og eier en del aksjer i rederiet. Han fører også med seg store verdier i perler for egen regning. Det er kapteinen som overraskende forklarer at Jensen i realiteten har fått Pat som pleiesønn.

Omsider gjør mannskapet, under ledelse av James Arrowsmith, mytteri. Ingen blir drept under de to angrepene, men det går hardt ut over både mannskap og offiserer. Mens skuten driver og offiserene venter på et nytt angrep, varsler båtsmann Christian Hellmuth stillferdig at en kraftig tyfon er i anmarsj. Sammen med kapteinen får han mannskapet til motvillig å berge alle seilene, men de rekker bare halvparten før tyfonen kommer. Etter store påkjenninger og mange timers slit for å komme seg ut av stormsenteret går skipet på et korallrev. Jensen var selv sikker på at skuta ikke hadde noen mulighet til å holde på langt ner så langt som den gjorde, og var veldig overrasket da han oppdaget at de hadde en mulighet til å redde seg i land. Kaptein Anderson svømmer inn til øya innenfor og binder fast et tau mellom skipsvraket og øya, og med umenneskelige anstrengelser bringer han inn en og en av dem som er for svake til å komme seg i land selv.

De blir boende på øya noen måneder før de blir reddet. Hatet viker for samarbeid om å overleve, og det skarpe klasseskillet går ned med skuta. Kapteinen blir aldri den samme igjen, Jensen aksepterer at han er blitt fosterfaren til Pat.