La missione di Anthropic è sviluppare un'intelligenza artificiale sicura ed efficace. Una fase fondamentale di questo processo è la preparazione degli enormi set di dati necessari per addestrare i nostri modelli linguistici all'avanguardia, un'attività che richiede capacità di archiviazione e calcolo ad alte prestazioni. Abbiamo scoperto che le istanze i4i di Amazon EC2, con la combinazione di archiviazione NVMe locale (fino a 30 TB di SSD Nitro) e potenti capacità di calcolo, sono particolarmente adatte a gestire i carichi di lavoro di preparazione e sperimentazione dei dati. Le prestazioni di I/O, la sicurezza e la scalabilità elevate di i4i ci consentito di iterare in modo più rapido ed efficiente, accelerando così i nostri progressi nella ricerca e sviluppo dell'IA.

Indeed incorpora in modo costante molte delle ultime innovazioni e soluzioni di AWS. Indeed utilizza spesso database distribuiti e i tempi di scansione di tali database sono estremamente importanti. Indeed ha effettuato la migrazione dalle istanze r6i.4xlarge di Amazon EC2 alle istanze i4i.32xlarge di EC2. Con la migrazione delle proprie istanze, Indeed ha registrato un aumento delle prestazioni del 97% con un tempo di scansione passato da un massimo di 24,25 secondi a 0,65 secondi. Indeed è in attesa di future innovazioni da parte di AWS, con una partnership continua e il ricorso ai servizi AWS per le operazioni dell'azienda.

Siamo entusiasti delle prestazioni che stiamo registriamo nelle istanze I4i di Amazon EC2 che utilizzano i nuovi AWS Nitro SSD a bassa latenza. I nostri test dimostrano che le istanze I4i offrono un throughput di query impressionante, 2,9 volte superiore rispetto alle istanze I3 della generazione precedente. Abbiamo anche condotto test con varie combinazioni di lettura e scrittura e abbiamo osservato prestazioni coerenti e con scalabilità lineare.

Quando abbiamo testato le istanze I4i, abbiamo osservato un aumento fino a 2,7 volte del throughput per vCPU rispetto alle istanze I3 per le letture. Con una combinazione uniforme di letture e scritture, abbiamo registrato un throughput 2,2 volte superiore per vCPU, con una riduzione del 40% della latenza media rispetto alle istanze I3. Siamo entusiasti delle prestazioni e del valore incredibili che queste nuove istanze offriranno ai nostri clienti in futuro.

Le istanze I4i hanno registrato prestazioni superiori rispetto alle istanze I3 della generazione precedente, con un miglioramento del 30% in tutte le operazioni. Non vediamo l'ora di utilizzare I4i per migliorare ulteriormente le prestazioni dei nostri clienti.

Aerospike in esecuzione su istanze I3en di EC2 offre già prestazioni in tempo reale leader del settore per i carichi di lavoro di lettura/scrittura. Con le istanze I4i di EC2, abbiamo osservato un aumento del 70% delle prestazioni solo sui carichi di lavoro di lettura. Questo miglioramento, unito alla comprovata capacità di Aerospike di fornire un elevato throughput di scrittura, significa che Aerospike in esecuzione su istanze I4i offrirà il miglior rapporto prezzo/prestazioni del settore per l'accesso in tempo reale a petabyte di dati in esecuzione su EC2.