Brian Gough 2d48c86e61 Merge pull request #24269 from overleaf/bg-backup-replication-smoothing 1 năm trước cách đây
..
api e145667a81 Merge pull request #23282 from overleaf/em-async-await-persist-changes 1 năm trước cách đây
backupVerifier 273ae4aecd Split healthCheck out into separate module 1 năm trước cách đây
benchmarks 7f48c67512 Add `prefer-node-protocol` ESLint rule (#21532) 2 năm trước cách đây
config afedce1b0e Add script for verifying sampled sets of projects 1 năm trước cách đây
migrations ee85d948e2 Avoid duplicating a math-closing dollar sign (#11227) 3 năm trước cách đây
storage 2d48c86e61 Merge pull request #24269 from overleaf/bg-backup-replication-smoothing 1 năm trước cách đây
test 061d67ee4b Emit more specific errors from backupVerifier 1 năm trước cách đây
.gitignore ee85d948e2 Avoid duplicating a math-closing dollar sign (#11227) 3 năm trước cách đây
.mocharc.json ee85d948e2 Avoid duplicating a math-closing dollar sign (#11227) 3 năm trước cách đây
.nvmrc 272108a213 Run `bin/update_node 20.18.0 20.18.2` (#23074) 1 năm trước cách đây
Dockerfile 272108a213 Run `bin/update_node 20.18.0 20.18.2` (#23074) 1 năm trước cách đây
Makefile fe03d8d7fd Add shellcheck to web, server-pro, server-ce (#23823) 1 năm trước cách đây
README.md ee85d948e2 Avoid duplicating a math-closing dollar sign (#11227) 3 năm trước cách đây
app.js 81aab1e159 [misc] fix logger.error(err) and logger.warn(err) calls (#23369) 1 năm trước cách đây
backup-deletion-app.mjs 9cc6f2a9d5 Merge pull request #21829 from overleaf/jpa-backup-deletion 1 năm trước cách đây
backup-verifier-app.mjs 768180c456 Handle errors during startup 1 năm trước cách đây
backup-worker-app.mjs efd53e567c Merge pull request #24237 from overleaf/bg-fix-backup-worker 1 năm trước cách đây
buildscript.txt 32983da29c Merge pull request #23700 from overleaf/bg-history-redis 1 năm trước cách đây
docker-compose.ci.yml 32983da29c Merge pull request #23700 from overleaf/bg-history-redis 1 năm trước cách đây
docker-compose.yml 32983da29c Merge pull request #23700 from overleaf/bg-history-redis 1 năm trước cách đây
install_deps.sh 9357f51fcf Merge pull request #22092 from overleaf/jpa-jq 1 năm trước cách đây
knexfile.js ee85d948e2 Avoid duplicating a math-closing dollar sign (#11227) 3 năm trước cách đây
package.json 767591973c Merge pull request #23905 from overleaf/ar-mocha-11 1 năm trước cách đây
tsconfig.json 763e5ba82c Merge pull request #23920 from overleaf/bg-backup-queue 1 năm trước cách đây

README.md

Database migrations

The history service uses knex to manage PostgreSQL migrations.

To create a new migrations, run:

npx knex migrate:make migration_name

To apply migrations, run:

npx knex migrate:latest

For more information, consult the knex migrations guide.

Global blobs

Global blobs are blobs that are shared between projects. The list of global blobs is stored in the projectHistoryGlobalBlobs Mongo collection and is read when the service starts. Changing the list of global blobs needs to be done carefully.

Adding a blob to the global blobs list

If we identify a blob that appears in many projects, we might want to move that blob to the global blobs list.

  1. Add a record for the blob to the projectHistoryGlobalBlobs collection.
  2. Restart the history service.
  3. Delete any corresponding project blobs.

Removing a blob from the global blobs list

Removing a blob from the global blobs list is trickier. As soon as the global blob is made unavailable, every project that needs the blob will have to get its own copy. To avoid disruptions, follow these steps:

  1. In the projectHistoryGlobalBlobs collection, set the demoted property to false on the global blob to remove. This will make the history system write new instances of this blob to project blobs, but still read from the global blob.

  2. Restart the history service.

  3. Copy the blob to all projects that need it.

  4. Remove the blob from the projectHistoryGlobalBlobs collection.

  5. Restart the history service.