Удалять нужно лучше по ID номеру, а то у некоторых пользователей может быть и одинаковое имя. Тогда и всех тезок удалит тоже. Но если хочешь удалить по имени, то делай так:
if ($action == "delete")
{
$conn = mysql_connect($host, $user, $pass) or die("Could not connect"); // Попытка соединиться с MySQL сервером
mysql_select_db($base) or die("Can't select database."); // Выбираем нашу базу данных
$p = $_GET['p'];
$result = mysql_db_query($base, "DELETE FROM `scores` WHERE `username` = ".$p.";"); // Делаем запрос на удаление
}
Запрос тогда нужно делать вида
http://site.ru/script.php?action=delete&p=user